TECH 으로 돌아가기
TECH HACKER NEWS 6분 읽기 44 READS

AI가 리만 가설을 증명했다는 주장, 무엇을 믿고 무엇을 의심해야 하나

AI가 리만 가설을 증명했다는 주장, 무엇을 믿고 무엇을 의심해야 하나
SOURCE IMAGE · HACKER NEWS

지난 11월 20일 이론 컴퓨터과학자 스콧 애런슨의 블로그에 올라온 글 한 편이 수학·AI 커뮤니티를 술렁이게 했다. 수학자 레벤트 알푀게가 앤트로픽의 AI 모델을 이용해 일반화된 리만 가설(GRH)을 증명했다고 밝혔으며, 그 결과물이 무려 1,740만 줄에 달하는 Lean 코드라는 것이다. 애런슨은 전날 저녁 식사 자리에서 "AI가 리만 가설을 푸는 데 몇 년이 더 걸리겠느냐"는 질문을 받고 "이제는 그런 걸 확신하지 말라"고 답했다고 적었다. 다만 이 발표는 아직 수학계의 정식 검증을 거치지 않은 주장이라는 점을 먼저 분명히 해둘 필요가 있다.

리만 가설이란 무엇인가

리만 가설은 소수의 분포에 관한 150년 넘은 난제다. 가장 이해하기 쉬운 형태로 말하면, 1부터 n까지의 소수 개수가 '1보다 큰 각 정수 x가 1/ln(x)의 확률로 독립적으로 소수일 때 기대되는 값'에 매우 가깝고, 그 오차가 대략 √n 규모를 넘지 않는다는 주장이다. 1896년 증명된 소수 정리는 소수 개수가 n/ln(n)에 점근한다는 사실까지만 보장했을 뿐, 그 편차가 실제로 얼마나 작게 억제되는지는 열린 문제로 남아 있었다. 다비트 힐베르트가 "천 년을 자고 깨어난다면 첫 질문은 리만 가설이 증명됐느냐일 것"이라 말했을 만큼, 이 문제는 현대 수학의 상징적 봉우리였다.

흥미롭게도 애런슨은 이번 주장에 앞서 또 다른 진전을 언급한다. 제타 함수의 비자명한 영점이 임계선에서 최대 3/8 떨어진 범위 안에 있다는 결과가 최근 나왔고, Quanta가 이를 기사로 다뤘다는 것이다. 그는 이 부분적 결과만으로도 완전한 증명이 가질 정수론적 함의의 상당 부분을 이미 담고 있다고 봤다. 즉 '전부 아니면 전무'가 아니라, 경계가 조금씩 좁혀지는 흐름 속에 이번 발표가 놓여 있다는 점을 이해하는 것이 중요하다.

1,740만 줄의 증명을 누가 검증하나

이번 주장이 기존의 수많은 'AI가 풀었다'류 소식과 다른 지점은 Lean이라는 형식 검증 시스템의 인증서를 동반한다는 데 있다. Lean은 증명의 모든 논리 단계를 기계가 기호 수준에서 확인하도록 해, 사람이 놓치는 허점을 차단한다. 다만 애런슨 본인이 경고하듯 Lean도 완벽하지 않다. 과거 커널 버그가 0=1 같은 거짓 명제의 증명을 통과시킨 전례가 있고, 바탕이 되는 타입 이론의 건전성도 완전히 확정된 것은 아니다. 충분히 집요한 AI라면 이런 틈을 파고들어 거짓을 '증명'할 수도 있다는 우려가 상존한다. 그는 지금 당장 그런 일이 벌어지고 있다는 징후는 보이지 않으며, Lean 인증서를 가진 AI 결과 중 철회된 사례는 아직 없는 반면 인증서 없는 결과는 여러 건 철회됐다는 점을 근거로 조심스럽게 증명이 살아남는 쪽에 걸었다.

그러나 형식적으로 검증됐다는 것과 수학자들이 받아들였다는 것은 다른 문제다. 수학자들은 1,740만 줄의 코드가 참이라는 사실만으로 만족하지 않는다. 그들이 원하는 것은 그 안에 담긴 아이디어를 스스로 설명하고 압축하고 재구성하는 일이며, 생물학적 속도로 움직이는 인간에게 이는 수년이 걸리는 작업이다. 블로그 댓글에서 여러 참여자가 1976년 컴퓨터로 처음 증명된 4색 정리를 소환한 이유도 여기에 있다. 당시에도 기계가 검사한 방대한 경우의 수를 인간이 사회적 검토 과정을 거쳐 '이해 가능한 지식'으로 받아들이기까지 긴 시간이 필요했다. 1,740만 줄을 사람이 들여다보는 일은 돌고래 뇌의 작동 원리를 해독하는 것만큼 어려울지 모른다는 냉소도 나왔다.

실무자가 읽어야 할 신호

AI 실무자 입장에서 이 소동의 진짜 함의는 '리만 가설이 풀렸다'는 결론 자체가 아니라, 대규모 언어 모델과 형식 검증 도구를 결합한 작업 방식이 어디까지 왔는지다. 알푀게의 설명을 두고 애런슨은 여전히 인간이 AI를 올바른 접근으로 유도하고 중간 질문을 던지는 역할을 했다는 점에 안도한다고 적었다. 완전 자동화된 기계의 독주가 아니라, 사람이 방향을 잡고 AI가 방대한 형식적 뒷받침을 채우는 협업 구도라는 것이다. 또한 댓글에서는 한 수학자(알레산드로 마술로)가 AI 증명의 2% 분량으로 같은 결과를 발표했다는 주장도 거론되는 등, 아직 우선권과 정합성을 둘러싼 논란이 정리되지 않았음을 보여준다.

결국 지금 단계에서 합리적인 태도는 '증명됐다'와 '증명이 주장됐다'를 구분하는 것이다. 애런슨의 글 자체가 종말론적 농담과 가정법이 뒤섞인 다소 들뜬 어조로 쓰였고, 결과는 동료 검증과 재현을 거치지 않았다. 과장된 기대나 공포에 휩쓸리기보다, 형식 검증이 AI 수학의 신뢰성을 가르는 핵심 축으로 부상했다는 점, 그리고 기계가 참을 확인하는 것과 인간이 의미를 이해하는 것 사이의 간극이 여전히 크다는 점을 기억하는 편이 실무적으로 더 유용하다. 이 간극이 어떻게 메워지는지가, 다음에 등장할 비슷한 발표를 평가할 때의 기준이 될 것이다.

SOURCE · HACKER NEWS
원문 전체 보기 → https://scottaaronson.blog/?p=10344
SHARE
NEXT · CHOOSE

변화를 읽었다면,
내가 만들 수익 구조를 고릅니다.

정보를 더 모으는 데서 멈추지 않고, 광고·외주·판매·중개·구독 중 내 상황에 맞는 출발점을 정해보세요.

21가지 수익 구조 살펴보기 →
처리 중...