AI가 150년 된 수학 난제 '맥스웰 추측'이 틀렸다는 걸 밝혀냈어요

AI가 150년 넘게 풀리지 않던 수학 문제의 답을 냈다는 논문이 arXiv에 올라왔어요. 주인공은 'GPT 5.6 Sol'이라는 모델이고, 대상은 '맥스웰 추측'이에요. 맥스웰이라는 이름, 어디서 들어보셨죠? 맞아요. 전자기학의 그 제임스 클러크 맥스웰이에요. 그가 1873년 저서 '전기와 자기에 관한 논고'에서 슬쩍 던져놓은 주장이 하나 있는데, 150년 동안 아무도 증명도 반증도 못 하고 있었거든요. 그런데 이번 논문은 이 추측이 '틀렸다'는 결론을 내놨어요.

맥스웰 추측이 뭐냐면요

어렵지 않게 풀어볼게요. 공간에 전기를 띤 점, 그러니까 점전하 여러 개를 놓았다고 상상해보세요. 각 전하는 주변에 전기장을 만들고, 이 전기장들이 서로 겹치다 보면 어떤 지점에서는 힘이 완벽하게 상쇄돼서 0이 되는 곳이 생겨요. 이런 곳을 평형점이라고 불러요. 맥스웰의 주장은 이거예요. 전하가 n개일 때, 이런 평형점의 개수는 아무리 많아도 (n−1)²개를 넘지 않는다. 예를 들어 전하가 3개면 평형점은 최대 4개라는 거죠. 재미있는 건 맥스웰 본인도 증명 없이 이 주장을 적으면서 '증명된 바를 알지 못한다'는 취지의 주석을 남겼다는 거예요. 직관적으로는 맞을 것 같은데, 수학자들이 150년 동안 달려들어도 증명이 안 됐고, 지금까지 엄밀하게 증명된 상한은 (n−1)²보다 터무니없이 큰 수뿐이었어요.

AI는 여기서 무슨 일을 한 걸까요

논문의 결론은 반례, 그러니까 맥스웰이 말한 한계를 넘어서는 전하 배치가 실제로 존재한다는 거예요. 여기서 AI의 역할이 흥미로운데요. 이런 문제에서 어려운 건 '어떤 배치를 시도해볼 것인가'예요. 가능한 배치의 공간은 무한한데, 사람은 직관에 기대서 대칭적이고 예쁜 구성 위주로 탐색하게 되거든요. AI는 그런 편견 없이, 사람이 굳이 시도하지 않을 이상한 구성까지 밀어붙이면서 후보를 탐색할 수 있어요.

그리고 이 대목이 정말 중요한데요. 반례는 검증이 쉬워요. AI가 '이 배치에서는 평형점이 한계보다 많다'고 주장하면, 그 배치를 받아서 사람이 직접, 또는 컴퓨터 대수 시스템으로 평형점을 세어보면 끝이에요. AI의 환각을 걱정할 필요가 없는 구조인 거죠. 'AI가 그렇다더라'를 믿는 게 아니라, AI가 가져온 답을 독립적으로 확인할 수 있으니까요. 다만 논문 자체는 아직 수학계의 검증을 거치는 중일 테니 최종 판정은 커뮤니티 리뷰를 지켜봐야 해요. AI 관련 수학 성과가 나중에 정정된 사례도 있었으니 그 점은 차분하게 볼 필요가 있어요.

AI와 수학, 흐름이 만들어지고 있어요

업계 맥락에서 보면 이건 고립된 사건이 아니에요. 딥마인드의 알파지오메트리와 알파프루프는 국제수학올림피아드 수준의 문제를 풀었고, Lean 같은 형식 증명 도구(증명의 모든 단계를 컴퓨터가 기계적으로 검사해주는 시스템이에요)와 LLM을 결합하는 연구도 활발해요. 전설적인 수학자 에르되시가 남긴 미해결 문제들에서 AI가 진전을 만든 사례도 보고됐고요. 'AI는 학습 데이터에 있던 걸 재조합할 뿐 새로운 지식은 못 만든다'는 통념에 반하는 사례가 차곡차곡 쌓이는 중이에요.

개발자인 우리가 가져갈 것

수학을 안 하는 개발자에게도 배울 패턴이 있어요. 핵심은 '만들기는 어렵지만 검증은 쉬운 문제'에 AI를 붙이는 거예요. 반례 하나가 전체 주장을 무너뜨리는 구조는 소프트웨어 테스트와 똑같거든요. 무작위 입력으로 코드의 성질을 검증하는 property-based testing에 AI를 붙여서 더 교묘한 반례 입력을 찾게 한다든지, 최적화 문제에서 초기해 탐색을 맡긴다든지 하는 식으로요. 검증기가 있는 곳에서는 AI의 환각이 무력화되니, 여러분의 도메인에서 '검증기가 존재하는 문제'를 찾아보는 게 AI 활용의 좋은 출발점이에요.

한 줄로 정리하면, AI가 인간 수학자들이 150년간 못 넘던 벽에서 반례를 찾아냈고, 그 결과는 누구나 검증할 수 있다는 것. 여러분은 '검증 가능한 문제'에 AI를 붙여본 적 있으세요? 어떤 문제에 시도해보고 싶으신가요?