칼텍(Caltech)이 '연구 수준의 수학'을 정면으로 겨냥한 첫 해커톤인 매스애톤(Mathathon)을 예고했다. 코딩 경진이 아니라 아직 풀리지 않은 수학 난제(open conjecture)를 참가자들이 직접 공략하고, 새로운 수학 이론을 세우는 자리라는 점에서 통상적인 해커톤과 결이 다르다. 주최 측은 이를 두고 '연구 수준 수학에 헌정된 사상 최초의 해커톤'이라고 규정한다. 최근 몇 달 사이 순수수학 영역에서 AI가 이뤄낸 진전을 배경으로, 도구가 아니라 연구 파트너로서의 AI를 시험대에 올리려는 시도다.
무엇을 겨루는가
행사는 10월 30일 열리며, 100개 팀에게 프런티어 모델(frontier model)이 제공된다. 각 팀은 이 모델을 활용해 미해결 추측을 풀거나 새로운 이론을 구축하는 과제에 도전한다. 여기서 주목할 점은 결과물의 판정 방식이다. 팀은 자신들이 도출한 결과를 저명한 수학자들 앞에서 방어(defend)해야 하며, 심사자들은 단순히 답이 맞는지가 아니라 참가자가 그 결과를 진짜로 이해하고 있는지를 평가한다. 즉 'AI가 내놓은 증명을 사람이 얼마나 소화하고 설명할 수 있는가'가 심사의 핵심 축이 된다.
상금 구조도 이 철학을 반영한다. 행사 당일에는 가장 유망하고 설명이 잘 된 결과에 1차 상금이 주어진다. 그리고 수학 커뮤니티가 결과를 검증할 시간을 가진 뒤, 2차 상금이 별도로 수여된다. 수학에서 '증명이 맞다'는 판정은 즉석에서 나오지 않고 동료 심사와 재현·검토를 거쳐야 한다는 현실을, 대회 설계에 그대로 반영한 셈이다.
두 가지 근본 질문
주최 측이 던지는 질문은 두 갈래다. 첫째, AI가 착상(ideation)에서 동료 심사를 거친 출판(peer-reviewed publication)까지의 과정을 얼마나 단축할 수 있는가. 둘째, AI가 인간보다 빠르게 추측을 풀어낼 수 있게 된 시대에 수학자의 역할은 무엇인가. 두 질문 모두 학계뿐 아니라 AI를 실무에 쓰는 개발자·연구자에게도 익숙한 고민이다. 생성 결과의 속도가 아니라 검증·이해·책임의 병목이 남는다는 구조가 소프트웨어 개발과 놀라울 만큼 닮았기 때문이다.
실제로 매스애톤의 설계는 코드 생성 도구를 쓰는 개발 조직에 시사점을 준다. 모델이 산출물을 빠르게 뽑아내더라도, 그것을 방어하고 설명할 수 있는 사람이 없으면 결과의 신뢰도는 확보되지 않는다. '설명 가능성'을 상금과 심사의 명시적 기준으로 못 박은 대목은, AI 산출물을 그대로 수용하지 않고 인간의 검토를 파이프라인에 강제로 끼워 넣는 하나의 운영 모델로 읽을 수 있다. 대회가 1차·2차로 검증 단계를 나눈 것도 마찬가지 맥락이다.
남는 한계와 관전 포인트
다만 현재 공개된 정보만으로는 판단을 유보할 대목이 많다. 제공되는 프런티어 모델이 구체적으로 무엇인지, 100개 팀이 어떤 기준으로 선발되는지, 결과의 정오를 커뮤니티가 어떤 절차로 검증할지는 아직 상세히 드러나지 않았다. 최근 순수수학에서의 AI 진전을 근거로 삼고 있으나, 그 진전의 구체적 사례도 이 안내만으로는 확인되지 않는다. 대회가 표방하는 '책임 있는 AI 사용' 약속의 실제 내용 역시 별도로 살펴봐야 한다.
그럼에도 이 행사가 흥미로운 이유는, AI를 수학이라는 가장 엄밀한 검증 체계 위에서 실험한다는 점이다. 여기서는 그럴듯한 답이 아니라 증명으로 성립하는 답만이 살아남고, 사람은 그 답을 이해했음을 입증해야 한다. AI 산출물의 품질을 어떻게 검증하고 책임 소재를 어디에 둘지 고민하는 실무자라면, 10월 30일 이후 나올 결과보다 이 대회가 채택한 '심사와 검증의 설계' 자체를 눈여겨볼 만하다.