수학자 대니얼 릿(Daniel Litt)이 자신의 블로그에 올린 글은 AI가 수학 연구를 근본적으로 바꾸는 상황에서 학계가 무엇을 지키고 무엇을 버려야 하는지를 다룬다. 그는 3년 전만 해도 두 수를 안정적으로 더하지 못하던 AI가 1년 전에는 국제수학올림피아드(IMO) 금메달에 해당하는 성적을 냈고, 지금은 주요 미해결 문제를 스스로 풀어내고 있다고 짚는다. 이 추세가 앞으로도 계속되리라고 그는 예상하며, 대부분 영역에서 인간을 능가하는 수학 AI가 곧 등장할 것이라는 전제 위에서 논의를 전개한다.
흥미로운 점은 그가 얼마 전 '수학의 종말(The End of Mathematics)'이라는 제목의 강연을 했다는 사실이다. 제목만 보면 AI가 수학을 '풀어버린다'는 이야기 같지만, 실제 내용은 정반대의 우려였다. 초인적 성능의 AI가 존재하더라도 학계 제도의 설계 방식 때문에 인간의 수학적 이해가 정체될 수 있다는 것이다. 이번 글은 그 비관론에 대한 대답으로, 수학 생산이 인간에게 덜 의존하게 되더라도 인간의 이해는 오히려 더 깊어질 수 있다는 긍정적 전망을 제시한다.
텍스트와 이해의 분리
논의의 핵심 전제는 비교적 온건하다. 수학적 텍스트의 생산이 수학적 이해와 점점 무관해지고 있다는 것이다. 릿은 수학의 목표가 정리를 증명하는 것이라면 이미 자동화됐을 것이라고 지적한다. 컴퓨터나 원숭이가 ZFC 공리에서 출발해 추론 규칙을 기계적으로 적용하거나, 모든 명제를 알파벳순으로 나열하는 것만으로도 정리 증명과 문제 제기는 흉내 낼 수 있기 때문이다. 설령 그 기계가 결과를 이해하고 아름다운 해설까지 쓴다 해도, 그것이 곧 '인간의 이해'를 만들어내지는 않는다. 그래서 그는 이해를 가치 있게 여기는 한 인간 수학자가 그 어느 때보다 더 필요해질 것이라고 본다.
그가 보기에 더 큰 문제는 학계가 제도의 형태 자체를 지키려 한다는 점이다. 저널과 동료 심사, arXiv, 학계의 문지기 역할을 어떻게 보존할 것인가라는 질문에 매달리지만, 노트북과 수백 달러만 있으면 1년 전 최상위 저널 수준의 논문을 만들어낼 수 있는 현실에서 기존 균형은 유지될 수 없다. AI 연구소를 향한 분노나 규제, 거품 붕괴에 기대는 것도 해법이 아니다. 문제는 특정 기업의 행동이 아니라 기술 그 자체이며, 'AI는 당신이 AI에 반대하든 말든 개의치 않는다'는 것이다.
대학원과 채용의 재설계
가장 시급한 질문으로 그는 '학생들은 무엇을 해야 하는가'를 든다. 이제 읽지도 않은 박사 논문을 제출하는 것이 가능해졌고, 텍스트의 가치가 더 이상 그것을 만든 사람의 실력을 담보하지 않는다. 따라서 수학적 진보의 신호와 수학적 전문성의 신호를 분리해야 한다. 그가 제안하는 박사 학위의 재정의는 '어떤 깊이 있는 주제의 세계적 전문가가 되고, 그 흥미와 이해를 남에게 전달할 수 있게 되는 것'이다. 학위는 논문보다 엄격한 구술 심사에 근거해 수여하되, 주제가 AI의 도움으로 나왔는지는 상관하지 않는다. 학생은 낯선 예제를 스스로 풀거나 기법을 새 사례에 적용하는 정기 점검을 통해 실제 이해를 입증한다.
채용과 대학원 입학 같은 자원 배분도 자동화되지 않는 부분, 즉 이해라는 내적 역량과 사회적·관계적 역량을 보상하는 방향으로 개편돼야 한다. 발표와 지속적인 토론이 논문보다 이해를 훨씬 잘 보여주므로, 교수 채용처럼 대학원 입학에서도 인터뷰를 도입해야 한다는 것이다. 나아가 그는 공동체가 오랫동안 과소평가해온 기능, 즉 '무엇이 흥미로운지를 가려내는 일'을 강조한다. AI가 성능을 발휘하는 밑바탕에는 인간 수학자들이 관심을 둔 미해결 추측들이 있으며, 설득력 있는 연구 프로그램을 세우는 사람을 보상하자고 제안한다.
실무자가 새겨볼 지점
이 글은 수학계를 다루지만, 산출물이 곧 실력의 증거였던 모든 지식 직군에 적용되는 이야기다. AI가 코드나 문서, 보고서를 저렴하게 대량 생산하면서 '결과물이 만든 이의 이해를 증명한다'는 오래된 신호가 무너지고 있고, IT 현장의 평가·채용·교육도 동일한 딜레마에 직면한다. 릿의 처방은 결과물을 금지하거나 AI를 배척하는 것이 아니라, 자동화되지 않는 이해와 대화의 밀도를 높이는 쪽으로 제도를 재설계하는 것이다. 다만 그의 제안은 대부분 구술 심사나 인터뷰 강화처럼 방향 제시에 가깝고, 대규모 심사를 어떻게 공정하고 효율적으로 운영할지, '흥미로움'을 어떻게 지표화할지에 대한 구체적 방법은 열려 있다. 그럼에도 그는 지금이 수학에 대한 관심이 역사상 가장 높은 시점이며, 버튼 하나로 쏟아지는 수학의 가치조차 결국 그것에 관심을 갖는 공동체에서 나온다는 점을 분명히 한다.