ChatGPT 한 손에 들고 60년 묵은 에르되시 난제를 푼 아마추어 이야기

수학에는 "에르되시 문제(Erdős Problems)"라는 게 있어요. 헝가리 출신의 전설적인 수학자 폴 에르되시가 평생 동안 던진 미해결 문제 모음인데요. 이 양반이 워낙 다작가라서 1500편 넘는 논문을 쓰면서, 자기가 풀지 못한 문제는 그냥 다른 사람들에게 던져줬어요. 어떤 문제는 100달러, 어떤 건 만 달러까지 상금까지 걸어가면서요. 수학계에선 이 문제 하나라도 푸는 게 평생의 명예가 되는 그런 자리에 있었거든요.

그런데 최근 사이언티픽 아메리칸에 흥미로운 기사가 하나 떴어요. 정식 수학 교육을 받지 않은 한 아마추어가 ChatGPT를 들고 60년 가까이 미해결로 남아있던 에르되시 문제 중 하나를 풀어냈다는 내용이에요. 기사에서는 이걸 "바이브 매스(vibe maths)"라고 부르는데, 우리가 요즘 자주 듣는 "바이브 코딩"의 수학 버전이라고 보면 돼요. 직관과 감, 그리고 AI 도우미를 활용해서 결과를 내는 거죠.

어떻게 푼 건데요?

이 분이 한 일은 단순히 ChatGPT한테 "이 문제 풀어줘" 한 게 아니에요. 문제를 작은 조각으로 쪼개고, 각 단계마다 AI에게 검증을 부탁하고, 막힌 부분에선 새로운 접근법을 함께 탐색하는 식으로 협업했어요. 마치 동료 연구자랑 화이트보드 앞에서 토론하듯이요. AI가 틀린 답을 내놓으면 다시 잡아주고, 흥미로운 힌트가 나오면 그걸 따라가서 검증하고요. 결국 핵심 아이디어는 사람의 직관에서 나왔고, AI는 그걸 구체화하고 점검하는 도구로 쓰였다는 게 포인트예요.

기존의 자동 정리 증명기(automated theorem prover)가 엄밀한 논리 검증에 강했다면, LLM은 "이런 식으로 시도해보면 어떨까?" 같은 창의적 제안에 강해요. 둘은 완전히 다른 결의 도구거든요. 이번 사례는 LLM이 형식 증명 도구가 아니라 "수학적 사고의 동반자"로서 가치가 있다는 걸 보여주는 좋은 예시였어요.

업계 맥락에서 보면

요즘 AI와 수학의 만남이 진짜 활발해요. 구글 딥마인드의 AlphaProof는 국제수학올림피아드 은메달급 점수를 받았고, 테렌스 타오 같은 필즈상 수상자도 GPT 계열 모델을 일상적으로 연구 보조로 쓴다고 공개적으로 밝힌 적이 있어요. 다만 지금까지의 성공 사례는 대부분 이미 수학 박사 수준의 사람이 AI를 도구로 활용한 케이스였거든요. 이번엔 정식 학위 없는 사람이 그 벽을 뚫었다는 점에서 의미가 좀 달라요.

물론 검증은 또 다른 문제예요. 수학 커뮤니티는 동료 검토(peer review)가 굉장히 까다로워서, 증명에 작은 빈틈만 있어도 박살 나거든요. AI가 만들어낸 증명은 특히 미묘한 오류가 숨어있을 수 있어서, 결국 수학자들이 라인 바이 라인으로 검증해야 해요. 그래서 "AI가 풀었다"보다는 "AI랑 협업해서 풀었고 사람이 검증했다"가 더 정확한 표현일 거예요.

한국 개발자에게 주는 시사점

이 이야기를 코딩 쪽으로 가져오면 시사점이 분명해져요. AI를 도구로 잘 쓰는 사람이 점점 더 많은 영역의 진입 장벽을 넘고 있다는 거예요. 알고리즘 문제, 복잡한 자료구조, 수치 해석 같은 평소 "수학 잘하는 사람들의 영역"이라고 여겨졌던 분야도, 이제는 호기심과 끈기만 있다면 AI랑 같이 붙어볼 만한 거리가 됐어요.

다만 핵심은 여전히 사람의 판단이에요. AI가 내놓는 답을 무비판적으로 받아들이면 그럴듯해 보이지만 틀린 결과(소위 환각)가 나오기 쉽거든요. 이번 케이스의 주인공도 결국 자기가 직접 검증할 수 있는 수준까지 공부하면서 AI랑 같이 갔다는 게 진짜 비결이에요. 우리도 일할 때 AI 결과를 그대로 복붙하기보다는 "왜 이렇게 됐지?"를 끝까지 따라가는 습관이 점점 더 중요해질 거예요.

마무리

전문가가 아닌 사람이 AI 한 손에 들고 60년 묵은 난제를 풀어내는 시대, 진입 장벽이 무너지고 있는 건 분명해요. 여러분은 평소에 "내 영역이 아니야"라고 미뤄둔 문제 하나쯤 있나요? 한번 ChatGPT 옆에 앉히고 도전해볼 만한 게 뭐가 있을지 댓글로 같이 이야기해봐요.