2026년 9월 8일 오픈AI는 나비에-스토크스 방정식의 해 존재성과 매끄러움 문제, 이른바 밀레니엄 7대 난제 중 하나에 대한 AI 생성 해답을 내놨다고 발표했다. 이 소식은 곧바로 공로 배분 논쟁을 촉발했다. 인간과 기계가 각각 어디까지 기여했는가라는 물음과 함께, 체스와 바둑에서 이미 벌어졌던 'AI의 인간 정복' 서사가 다시 소환됐다. 나비에-스토크스 연구에 참여해 온 수학자 트리스탄 벅마스터는 이를 두고 "딥블루-카스파로프의 순간"이라고 표현했다.
테런스 타오의 블로그에 실비아 데 토폴리(IUSS 파비아)와 이먼 듀드(프린스턴·퍼듀대)가 기고한 이 글은, 바로 그 정복 서사에 정면으로 의문을 제기한다. AI가 수학의 최전선 질문에 답을 내놓기 시작했다면 수학이라는 학문도 체스나 바둑처럼 곧 '풀려버린' 게임이 되는가. 필자들은 "그래도 계속 플레이하면 된다"는 흔한 위안(게임의 목적은 승리가 아니라 과정에 있다는 철학자 C. 티 응우옌의 논지)을 인정하면서도, 그 대응이 실은 불필요한 후퇴라고 본다. 애초에 수학을 하나의 게임으로 규정하는 전제 자체를 거부하면, 후퇴할 이유도 사라지기 때문이다.
'답'과 '해답'은 다르다
글의 핵심은 증명 개념을 둘로 나누는 데 있다. 하나는 논리적 증명이다. 연역적 타당성으로 정의되며, 논증을 이해하지 못하는 기계적 절차로도 검증할 수 있다. 오픈AI가 내놓은 산출물 중 하나인 린(Lean) 형식화는 이 기준을 정확히 충족한다. 필자들은 이 형식화가 확실성을 확보해 준다는 점에서 진지하고 중요한 기여라고 분명히 인정한다.
그러나 수학자들이 증명에서 원하는 또 다른 것이 있다. 명제를 참이게 만드는 것이 무엇인지에 대한 이해다. 이것은 전문가끼리 공유하고, 기존 지식과 연결하며, 다음 진전을 위해 재사용할 수 있는 아이디어의 형태를 띤다. 이를 필자들은 '이해 가능한 증명'이라 부른다. 역사적으로 두 개념은 함께 갔다. 아무리 복잡한 논리적 증명도 그것을 참이게 만드는 공유 가능한 핵심 아이디어를 먼저 파악하지 않고서는 나올 수 없었기 때문이다. 그런데 AI는 이 둘을 극적으로 분리한다. 어떤 이해 가능한 아이디어에도 뿌리내리지 않은 채 형식적으로만 성립하는 증명이 가능해진 것이다. 클레이 수학연구소가 나비에-스토크스에서 증명이 중요한 이유로 "확실성뿐 아니라 이해를 준다"고 밝힌 것도 같은 맥락이다.
필자들은 이것이 형식 증명에 대한 비판은 아니라고 못 박는다. 반대 방향의 문제도 똑같이 심각하다. 재프와 퀸(1993)이 서스턴의 기하화 정리를 예로 들었듯, 위대한 통찰을 담았지만 증명이 불완전한 논증은 "영감이 아니라 장애물"이 될 수 있다. 헤일스의 플라이스펙 프로젝트가 케플러 추측의 난해한 증명을 형식적으로 검증하려 한 것도 이 때문이다. 진짜 해답은 논리적 정확성과 이해 가능성을 동시에 요구한다. 현재로선 오픈AI의 결과가 후자를 충족했는지가 불분명하며, 그래서 지금은 '해답'이라기보다 '답'에 가깝다는 것이 필자들의 진단이다.
수학은 애초에 게임이 아니다
다만 글은 여기서 멈추지 않는다. 설령 미래의 AI가 논리적으로 정확하면서도 완전히 이해 가능한 진짜 증명을 내놓더라도, 그것으로 수학이 '풀렸다'고 말할 수는 없다는 것이다. 체스와 바둑에서는 인간과 기계가 같은 게임을 하기에 압도적 실력 차를 받아들인다. 하지만 수학에는 승자가 없고, 체크메이트도 없다. 필자들은 제러미 아비가드(2026)를 인용해 AI를 경쟁자가 아니라 조수로 보는 편이 자연스럽다고 말한다. 자동차를 몰 때 누가 빠른지 겨루지 않고, 전화기를 쓸 때 누가 큰 소리를 내는지 겨루지 않는 것처럼.
더 근본적인 문제는 '문제 풀이가 곧 수학적 성공의 척도'라는 전제 자체에 있다. 타오(2026)가 정리했듯 수학의 목표에는 새로운 이론과 기법의 개발, 세계에 대한 이해, 공동체의 유지, 다음 세대의 양성, 누적적 지식에의 기여, 미적 가치의 창조가 포함된다. 지금까지 이 목표들은 진짜 해답과 양의 상관을 이뤄 왔지만, AI는 증명의 두 개념을 갈라놓은 바로 그 이유로 이 상관마저 끊어버린다. 필자들은 이를 골대를 옮기는 것이 아니라, 어떤 특정 골대도 불충분함을 인정하는 일이라고 표현한다. 수학이 게임이라면 그것은 끝이 정해진 유한 게임이 아니라 무한 게임이라는 것이다.
한국의 IT·연구 실무자에게 이 글이 던지는 함의는 분명하다. 벤치마크로 측정하기 쉬운 지표에 성공을 지나치게 밀착시키면, 그 분야는 자동화하기 가장 쉬운 특성에 맞춰 스스로를 재편하게 된다. 실제로 필즈상 수상자 25명이 처음 서명한 최근 선언은 AI 기업의 목표와 수학 공동체의 목표 사이 "심각한 부정합"을 경고했고, 데이비드 베시스는 블로그에서 수학의 공로(credit) 경제 자체를 다시 설계해야 한다고 논했다. 형식 검증기와 대규모 모델을 실무에 도입하는 조직이라면, 자동화가 대체하는 것이 결과물의 '검증된 답'인지 아니면 팀이 공유하고 재사용하는 '이해'인지를 구분하는 안목이 필요하다. AI는 수학에 종말이 아니라 선택지를 내밀었다는 필자들의 결론은, 지표 설계와 조직 규범을 고민하는 모든 지식 노동 영역에 그대로 적용된다.