필즈상 수상자 25명이 공동 서명한 공개서한 'A Severe Misalignment of AI in Mathematics'가 논란을 낳고 있다. 이들은 "AI 기업의 목표와 수학계의 목표가 심각하게 어긋나 있다"고 주장한다. 서한의 핵심은 AI 기업이 '개념적 이해와 통찰'이라는 수학 본연의 목표를 공유하지 않는다는 것이다. AI가 내놓는 풀이는 서둘러 발표되는 탓에 제대로 된 논문 작성, 새로운 방법과 아이디어의 분리·정리, 선행 연구에 대한 인용이 이뤄질 시간이 없다는 지적이다. 이 서한은 OpenAI가 밀레니엄 문제 중 하나인 나비에-스토크스 방정식의 존재성과 매끄러움 문제에 대한 해법을 발표한 직후 나온 것으로 알려졌다.
계산생물학자 리오르 파흐터(Lior Pachter)는 이 진단 자체에는 동의하면서도, 그 논리를 서한 작성자들에게 되돌려 겨눈다. AI 기업의 목표가 개념적 이해와 통찰에 맞춰져 있지 않은 것은 사실이지만, 수학계의 목표 역시 거기에 맞춰져 있지 않다는 것이다. 서한은 "우리 직업에서 가장 소중한 자원은 학생과 아이디어"이며 이들을 '큰 정성으로 돌봐야' 한다고 말한다. 파흐터는 수학계가 실제로 그렇게 해왔는지 묻는다. 그리고 흥미로운 자기모순도 짚는다. 서한 서명자들 스스로가 "더 충분한 협의 과정을 거칠 시간이 없었다"며 서둘러 서한을 공개했다는 점이다. AI의 성급함을 비판하는 문서가 성급하게 나왔다는 아이러니다.
학생과 아이디어를 '정성으로 돌봤는가'
파흐터는 자신이 18년간 몸담았던 UC 버클리 수학과의 사례를 든다. 힐베르트의 10번째 문제로 유명한 줄리아 로빈슨은 이 학과에서 35년간 수학을 가르치지 못하도록 배제당했다. 친족 채용 금지 규정이 구실로 쓰였고, 그가 정식 임용된 것은 1976년 미국 국립과학원 회원으로 선출된 뒤였다. 더 충격적인 것은 로빈슨이 매일 자신이 무슨 연구를 했는지 인사과에 일일이 문서로 보고해야 했다는 사실이다. 또 다른 사례로는 2001년경부터 2011년까지 버클리 수학과 교수였던 유발 페레스가 언급된다. 이후 수학자들은 후배 여성들과 관련된 최소 일곱 건의 사례 또는 신고를 공개적으로 거론했으며, 그중 일부는 반복되는 접근을 피하려 학회나 강연 참석을 기피했다고 전해진다.
버클리 수학과는 파흐터가 부임하고 3년 뒤 학생 멘토링 부실을 이유로 중요한 미국 국립과학재단(NSF) 연구비를 잃기도 했다. 그는 지금도 이 학과의 저명한 명예교수 한 명이 "수학계에는 성차별이 없으며 지금까지도 없었다"고 주장한다는 점을 문제 삼는다. 요컨대 수학계가 학생과 아이디어를 정성껏 돌보지 않았다는 사실은 비밀도, 공공연한 비밀도 아닌, 업계 안에서 누구나 아는 상식이라는 것이 그의 진단이다.
능력과 책임은 다른 문제다
파흐터는 서명자들이 소속이나 이메일 대신 이름 옆에 '필즈상 수상자'라고 괄호로 표기한 점에도 주목한다. 이 표기가 수학계에 대한 어떤 권위를 암시하려는 것은 아닌지 묻는다. 물론 이들은 비범한 수학적 업적으로 그 영예를 받았다. 그러나 필즈상은 어떤 문제와 분야, 어떤 스타일의 수학이 인정받을 가치가 있는지를 판단하는 소수 집단의 선택에도 좌우된다. 에르되시가 "세메레디는 필즈상을 받았어야 했지만, 결정하는 사람들이 조합론에 그다지 관심이 없었다"고 말한 일화가 이를 보여준다. 상은 어떤 수학이, 따라서 어떤 수학자가 중요한지에 대한 판단을 담는다. 파흐터의 결론은 간명하다. 수학적 능력이 곧 수학적 책임감은 아니라는 것이다. 그는 '정렬'을 논하는 서한이라면 필즈상 수상자를 앞세우기보다, 멘토링과 보살핌의 부재로 경력이 꺾인 이들의 목소리를 담는 편이 더 밝혀주는 바가 많았을 것이라고 본다.
이 글이 한국의 IT·연구 실무자에게 던지는 함의는 AI가 수학이라는 특정 분야를 넘어선다. AI 시스템을 무엇에 '정렬(align)'시킬 것인가를 정할 때, 흔히 기존 전문가 공동체의 규범을 기준점으로 삼는다. 하지만 파흐터의 지적은 그 기준점 자체가 이상적이지 않을 수 있음을 상기시킨다. 기존 제도의 인센티브 구조, 위계, 관행에는 성급한 성과 경쟁과 소수의 문지기가 만드는 편향, 후속 세대에 대한 방치가 이미 스며 있을 수 있기 때문이다. AI를 그런 관행에 맞추는 것을 목표로 삼는다면, 우리는 결함까지 함께 복제하게 된다.
다만 이 논평의 한계도 분명히 짚을 필요가 있다. 파흐터가 제시하는 근거는 대부분 특정 대학 학과에서 관찰된 개별 사례이며, 이를 수학계 전반의 구조로 일반화할 수 있는지는 별개의 문제다. 서한을 지지하는 한 독자의 반응처럼, 이 서한이 불완전할지언정 '벤치마크 최적화(benchmaxing)'와 조악한 AI 결과물의 범람 속에서 학문의 정체성을 지키기 위한 첫걸음이라는 옹호론도 성립한다. 결국 파흐터가 겨냥하는 것은 서한의 문제의식이 틀렸다는 주장이 아니라, 정렬의 대상을 다시 설정하자는 제안에 가깝다. AI 기업이든 수학자든, 결과의 생산과 인정이 아니라 이해와 출처 표기, 지적 관대함, 그리고 학생과 아이디어를 돌보는 태도에 스스로를 맞춰야 한다는 것이다.