난류를 기술하는 3차원 나비에-스토크스 방정식이 매끄러운 해를 영원히 유지하는가, 아니면 유한한 시간 안에 특이점이 생기며 붕괴(blowup)하는가. 이 '전역 정칙성(global regularity)' 문제는 밀레니엄 7대 난제 중 하나로 남아 있다. 2014년 2월 테렌스 타오는 arXiv에 올리고 미국수학회지(JAMS)에 투고한 논문에서, 이 문제를 정면으로 푸는 대신 '왜 지금까지의 접근법으로는 풀 수 없는가'를 엄밀하게 형식화했다. 그가 제시한 개념이 이른바 '초임계 장벽(supercriticality barrier)'이다.
논문의 핵심 주장은 이렇다. 방정식의 비선형 항에 대한 함수공간 상한 추정(upper bound estimate)과 에너지 항등식(energy identity)만을 사용하는 어떤 '추상적' 방법으로도 전역 정칙성을 증명할 수 없다. 타오는 이를 반증 불가능한 원리로 세우기 위해, 진짜 나비에-스토크스와 사실상 동일한 함수공간 추정을 만족하고 에너지 항등식까지 그대로 지키지만, 유한 시간에 폭발하는 해를 갖는 '변형된' 방정식을 실제로 구성해 보였다.
에너지 항등식만으로는 부족한 이유
나비에-스토크스에서 압력을 르레이 사영(Leray projection)으로 소거하면 속도장에 대한 발전방정식이 남고, 그 비선형 항은 쌍선형 연산자로 표현된다. 이 연산자가 지닌 소거 법칙 덕분에 에너지 항등식이 성립하는데, 이는 임의의 큰 초기 데이터와 임의의 시간에 대해 알려진 사실상 유일한 선험적 유계 조건이다. 문제는 이 에너지가 스케일링에 대해 '초임계'라는 점이다. 즉 해가 더 미세한 규모로 옮겨갈수록 에너지가 통제력을 잃어, 추가 가정 없이 순수하게 에너지만으로 특이점을 막는 시도는 지금까지 모두 실패했다.
타오의 정리는 원래 쌍선형 연산자를 어떤 확률공간 위에서 공간 회전과 0차 푸리에 승수(Fourier multiplier)로 '평균화'한 연산자를 만든다. 회전과 0차 승수는 대부분의 함수공간에서 유계이므로, 이 평균화된 연산자는 진짜 연산자가 만족하는 상한 추정을 거의 모두 물려받는다. 게다가 소거 법칙, 곧 에너지 항등식도 유지한다. 그런데도 이 방정식의 해는 폭발한다. 결국 전역 정칙성을 증명하려면 평균화 버전이 공유하지 않는 '추가 구조'—예컨대 미분 연산자만으로 쓰이는 소용돌이도(vorticity) 형식 같은—를 반드시 활용해야 한다는 결론이 나온다.
캐스케이드 ODE와 '자기 복제' 기계
구체적으로 이 평균화 연산자는 카츠와 파블로비치가 이산 모형으로 도입한 '국소 캐스케이드 연산자'들의 유한 선형결합으로 표현된다. 그러면 방정식은 파동 계수들에 대한 상미분방정식(ODE) 계로 환원된다. 카츠-파블로비치 모형에서는 에너지가 낮은 모드에서 높은 모드로 옮겨가며 점점 더 빠르게 미세 규모로 달려가 유한 시간 폭발이 일어날 것으로 보였고, 실제로 소산(dissipation)을 약화시키면 5차원 이상에서 폭발이 증명되었다. 하지만 바르바토·모란딘·로미토는 원래 모형이 3차원에 해당하는 경우 오히려 전역 매끄러운 해를 가짐을 보였다. 에너지가 다음 규모로 너무 성급히 새어 나가, 소산이 고주파 캐스케이드를 특이점 전에 잡아 죽이기 때문이다.
이 함정을 피하려고 타오는 에너지 전달에 '지연'을 넣되 일단 시작되면 '급격히' 끝나도록 ODE 계를 설계했다. 전기 회로가 증폭기·저항 같은 기본 소자로 만들어지듯, 그는 '2차 게이트'들로 '2차 회로'를 짜서 각 규모의 에너지가 다음 규모로 넘어가는 타이밍이 서로 간섭하지 않게 만들었다. 그 결과 규모 간 전달에 걸리는 시간이 지수적으로 줄어들며 유한 시간에 폭발한다. 타오 자신은 이를 '반지의 제왕'에서 봉화가 차례로 켜지는 장면에 비유했다—단, 다음 봉화가 켜지면 앞 봉화는 꺼지고, 켜지는 간격은 지수적으로 짧아진다.
실무적 의미와 한계
이 결과가 곧 진짜 나비에-스토크스의 폭발을 뜻하지는 않는다. 타오가 명확히 선을 긋듯, 그의 폭발 메커니즘은 일종의 '폰 노이만 기계'—시간 지연 뒤 더 미세한 규모에 자기 복제본을 만들고 원본은 지워버리는 구조—이며, 이는 평균화라는 인위적 조작 위에서만 확인된 것이다. 그럼에도 함의는 크다. 유체 문제를 순수한 함수해석적 부등식과 보존량만으로 풀려는 '무구조적' 시도는 원리적으로 막혀 있음을 보였기 때문이다. 응용 수학이나 전산유체 분야에서 정칙성·안정성을 논할 때, 어떤 추정이 스케일링에 대해 임계인지 초임계인지를 먼저 따져야 한다는 실천적 교훈이기도 하다.
타오는 이 구성을 실제 나비에-스토크스, 나아가 점성이 없는 오일러 방정식으로 옮길 '희박하지만 실재하는' 가능성도 언급한다. 이상 유체(inviscid incompressible fluid)만으로 충분히 안정적인 '논리 게이트'를 만들 수 있다면 '유체 컴퓨터'를, 나아가 자기 복제 기계를 구성하는 문제가 PDE가 아니라 소프트웨어 공학 과제로 바뀐다는 발상이다. 다만 이상 유체의 법칙 안에서 그 논리 게이트를 실제로 짓는 일이 여전히 빠진 핵심 조각으로 남아 있으며, 이는 문제의 난이도가 사라진 것이 아니라 새로운 언어로 옮겨졌음을 보여준다.