20세기 수학계에는 폴 에르되시(Paul Erdős)라는 전설적인 괴짜가 있었어요. 평생 집도 없이 동료 수학자들 집을 전전하며 1,500편이 넘는 논문을 쓴 사람인데요. 이 분의 특기가 하나 있었어요. 기가 막히게 좋은 '문제'를 만들어내는 거였죠. 심지어 문제마다 상금을 걸었어요. 쉬운 건 25달러, 어려운 건 수천 달러짜리도 있었고요. 그가 1996년에 세상을 떠난 뒤에도 수백 개의 문제가 미해결로 남아서, 지금은 erdosproblems.com이라는 사이트에 데이터베이스로 정리되어 있어요. 그런데 최근 이 미해결 문제들이 AI에 의해 하나둘 무너지고 있다는 게 콴타 매거진 기사의 내용이에요.
AI가 문제를 '푼다'는 것의 세 가지 의미
여기서 중요한 건, AI가 문제를 해결하는 방식이 한 가지가 아니라는 거예요. 첫 번째는 문헌 발굴이에요. 알고 보니 수십 년 전에 어느 저널 구석에서 이미 풀렸는데 아무도 연결 짓지 못했던 문제를, AI가 방대한 논문을 뒤져서 찾아내는 거죠. 이것도 무시할 게 아닌 게, 인간 수학자는 자기 분야 바깥의 논문까지 다 읽을 수 없지만 AI는 가능하거든요. 두 번째는 진짜 새로운 증명이에요. 최신 추론 모델들이 알려진 기법들을 조합해서 사람이 못 찾던 증명을 만들어내는 경우인데, 실제로 몇몇 문제에서 이런 사례가 나오면서 수학계가 술렁이기 시작했어요. 세 번째는 형식 검증과의 결합이에요. Lean이라는 증명 보조 도구가 있는데, 이게 뭐냐면 수학 증명을 컴퓨터가 한 줄 한 줄 기계적으로 검사할 수 있는 코드로 바꿔주는 시스템이거든요. AI가 만든 증명을 Lean으로 검증하면 '그럴듯한 헛소리'인지 진짜 증명인지 확실하게 가려낼 수 있어요. AI의 최대 약점인 환각(그럴듯한 거짓말) 문제를 구조적으로 막는 거죠.
왜 하필 에르되시 문제부터 무너질까요
여기가 이 기사에서 제일 흥미로운 대목이에요. 리만 가설 같은 초대형 난제는 거대한 이론 체계 전체를 이해해야 접근이라도 할 수 있는데, 에르되시 문제들은 성격이 달라요. 대부분 조합론이나 수론 분야인데, 문제 서술 자체는 고등학생도 이해할 수 있을 만큼 짧고 독립적이거든요. 다만 푸는 데 기발한 아이디어가 필요할 뿐이죠. 그런데 이 구조가 AI에게 유리해요. 문제가 자기완결적이라 긴 맥락을 이해할 필요가 없고, 답이 맞는지 검증하기 쉽고, 기존 기법들의 영리한 조합으로 풀리는 경우가 많으니까요. AI는 인간보다 훨씬 넓은 기법 공간을 지치지 않고 탐색할 수 있잖아요. 반대로 말하면, 완전히 새로운 개념을 발명해야 하는 문제는 아직 AI에게 어렵다는 뜻이기도 해요. 수학자 테런스 타오가 AI와 수학의 협업을 실험하면서 비슷한 취지의 이야기를 해왔는데, AI는 수학자를 대체한다기보다 탐색을 대신해 주는 강력한 조수에 가깝다는 거죠.
개발자인 우리에게 주는 힌트
이 이야기가 남 일이 아닌 이유가 있어요. AI가 수학에서 먼저 성과를 내는 조건, 그러니까 '문제가 명확하고, 정답을 기계적으로 검증할 수 있는 영역'이라는 조건은 소프트웨어 개발과 정확히 겹치거든요. 코드는 테스트와 컴파일러라는 검증 장치가 이미 있잖아요. 수학에서 Lean이 하는 역할을 개발에서는 테스트 스위트가 하는 셈이에요. 그래서 실무 팁을 하나 드리면, AI 코딩 도구를 쓸 때 테스트를 먼저 촘촘하게 만들어 두면 효과가 몇 배로 커져요. AI가 마음껏 시도하고 틀리면 즉시 걸러지는 환경을 만드는 거니까, 수학계가 Lean으로 하고 있는 것과 똑같은 전략인 거죠. 앞으로 어떤 직군이 AI 영향을 먼저 받을지 가늠할 때도 '검증 가능성'이라는 잣대는 꽤 유용한 기준이 될 거예요.
마무리
정리하면 이래요. AI는 지금 '서술은 쉽지만 풀이는 어려운, 그리고 검증이 가능한' 문제들부터 정복해 나가고 있고, 에르되시 문제는 그 최전선이라는 것. 에르되시는 생전에 '신이 가진 완벽한 증명들의 책'이 있다고 농담하곤 했는데, 그 책의 몇 페이지를 기계가 먼저 펼쳐보고 있는 셈이네요. 여러분은 어떻게 보세요? AI가 만든 증명도 인간이 만든 증명과 같은 가치를 가진다고 생각하시나요?
🔗 출처: Hacker News