무슨 일이 있었나요
밀레니엄 문제를 관리하는 클레이 수학 연구소(Clay Mathematics Institute)가 나비에-스토크스 방정식 문제에 관한 공식 발표를 올렸어요. 클레이 연구소는 2000년에 수학 난제 7개를 골라 문제당 100만 달러 상금을 걸었는데, 나비에-스토크스 존재성과 매끄러움 문제가 그중 하나거든요. 이 기관이 특정 문제 하나에 대해 별도의 공식 성명을 내는 건 흔한 일이 아니에요. 그래서 수학계뿐 아니라 개발자 커뮤니티에서도 관심이 쏠렸어요.
발표의 정확한 문구는 클레이 연구소 사이트에서 직접 확인하시길 권해드리고요, 이 글에서는 이 문제가 대체 뭔지, 왜 지금 이 시점에 공식 발표가 나올 만한 분위기였는지, 그리고 개발자 입장에서 뭘 알아두면 좋은지를 풀어볼게요.
나비에-스토크스 방정식이 뭐냐면
물이나 공기처럼 흐르는 것, 즉 유체의 움직임을 설명하는 편미분방정식이에요. 뉴턴의 운동 법칙 F=ma를 유체에 적용한 거라고 보시면 돼요. 유체 속 각 지점의 속도가 시간에 따라 어떻게 변하는지를 압력, 점성(끈적임), 외부 힘으로 설명하죠. 1820~1840년대에 나온 방정식인데, 지금도 날씨 예보, 비행기 날개 설계, 게임의 물 시뮬레이션, 심지어 혈류 계산까지 전부 이 방정식을 수치적으로 푸는 거예요.
그런데 재밌는 게, 200년 가까이 실무에서 잘 쓰고 있으면서도 이 방정식의 가장 기본적인 성질을 아직 증명하지 못했어요. 문제는 이거예요. 3차원 공간에서 처음 상태가 아무리 매끄럽고 얌전한 흐름이라도, 시간이 지나면 항상 매끄러운 해가 계속 존재하는가? 아니면 유한한 시간 안에 속도가 무한대로 치솟는 지점, 이른바 특이점(blow-up)이 생길 수 있는가?
비유하자면 이런 거예요. 아주 부드럽게 흐르는 개울물을 시뮬레이션한다고 해봐요. 그 개울물이 영원히 계산 가능한 상태로 남을지, 아니면 어느 순간 수학적으로 터져버려서 방정식 자체가 의미를 잃는 순간이 오는지를 아무도 모른다는 거죠. 2차원에서는 1960년대에 이미 '터지지 않는다'가 증명됐어요. 그런데 3차원에서는 소용돌이가 늘어나고 꼬이는 현상(vortex stretching) 때문에 같은 방법이 안 통해요.
왜 지금 이 시점인가
최근 몇 년 사이 이 문제 주변의 공기가 확 바뀌었어요. 핵심 키워드는 AI예요.
수학자 하비에르 고메스-세라노(Javier Gómez-Serrano) 팀과 구글 딥마인드가 협업해서, 유체 방정식에서 '불안정한 특이점'을 AI로 찾아내는 연구를 발표했거든요. 물리 정보 신경망(PINN, Physics-Informed Neural Network)이라는 걸 쓰는데요, 이게 뭐냐면 신경망을 학습시킬 때 손실 함수에 '이 방정식을 만족해야 한다'는 조건을 직접 넣는 방식이에요. 데이터를 맞추는 게 아니라 방정식을 만족하는 함수 자체를 신경망이 찾도록 하는 거죠. 이 방법으로 부시네스크(Boussinesq) 방정식처럼 나비에-스토크스의 사촌뻘 되는 방정식에서 특이점 후보를 아주 높은 정밀도로 찾아냈어요.
여기서 중요한 점은 '찾았다'와 '증명했다'가 다르다는 거예요. 신경망이 찾은 건 특이점처럼 보이는 수치 해예요. 이걸 진짜 수학적 증명으로 바꾸려면 컴퓨터 보조 증명(computer-assisted proof)이라는 단계를 거쳐야 해요. 구간 산술(interval arithmetic)이라는 기법으로 부동소수점 오차까지 전부 엄밀하게 묶어서, '이 근처에 진짜 해가 존재한다'를 컴퓨터로 검증하는 거예요. 테렌스 타오(Terence Tao)도 2010년대에 나비에-스토크스를 살짝 변형한 방정식에서 특이점이 생긴다는 걸 보이면서, 원래 방정식도 결국 특이점이 생길 가능성이 높다고 내다본 바 있어요.
이런 배경 속에서 나온 공식 발표라 더 관심이 가는 거예요. 클레이 연구소의 상금 규정을 알아두면 왜 공식 입장이 필요한지 이해가 돼요. 규정상 증명은 반드시 심사가 있는 학술지에 게재되어야 하고, 게재 후 2년 동안 학계의 검증을 통과해야 하고, 그 다음에 연구소의 과학자문위원회가 심사해요. 그러니까 어떤 증명이 나왔다는 소식이 들려도 상금 지급까지는 최소 몇 년이 걸리는 구조예요. 연구소가 나서서 절차와 입장을 정리해줘야 할 이유가 충분한 거죠.
개발자한테는 무슨 의미인가요
솔직히 말해서, 내일 당장 여러분 코드가 바뀌진 않아요. CFD(전산유체역학) 라이브러리나 게임 엔진의 물 시뮬레이션은 지금도 잘 돌아가고 앞으로도 잘 돌아갈 거예요. 수치 해법은 방정식이 이론적으로 터지든 말든 유한한 격자와 시간 간격 안에서 근사값을 뽑아내니까요.
그런데 두 가지는 배워둘 가치가 있어요.
첫째, AI가 수학 연구의 도구가 되는 방식이에요. 지금까지 AI 하면 텍스트 생성이나 코드 자동완성을 떠올렸는데, 이번 흐름은 신경망을 '방정식의 해를 찾는 탐색기'로 쓰는 거예요. PINN은 파이토치로 직접 구현해볼 수 있을 만큼 개념이 단순해요. 손실 함수에 미분방정식의 잔차(residual)를 넣고, 자동미분으로 편미분을 계산하면 돼요. 물리 시뮬레이션이나 과학 계산 쪽에 관심 있으면 진입 장벽이 생각보다 낮아요.
둘째, 컴퓨터 보조 증명과 형식 검증의 부상이에요. Lean 같은 증명 보조기(proof assistant)로 수학 정리를 코드처럼 작성하고 컴파일러가 검증하는 흐름이 점점 커지고 있어요. 개발자에게 익숙한 타입 시스템, 컴파일 에러, CI 같은 개념이 수학에 그대로 들어가는 거예요. 100만 달러짜리 증명이 결국 '이 코드가 컴파일된다'로 검증되는 시대가 오고 있는 거죠.
정리
나비에-스토크스 문제는 AI가 찾은 후보 해와 컴퓨터 보조 증명이 결합되면서 200년 만에 처음으로 '풀릴 수도 있겠다'는 분위기가 됐고, 그 한가운데서 클레이 연구소가 공식 입장을 낸 거예요.
여러분은 어떻게 생각하세요? AI가 찾고 컴퓨터가 검증한 증명을 사람이 완전히 이해하지 못하더라도 '증명됐다'고 인정해야 할까요? 소프트웨어에서 테스트가 통과하면 동작한다고 믿는 것과 같은 걸까요, 다른 걸까요?
🔗 출처: Hacker News