수학계에서 꽤 무게 있는 목소리가 나왔어요. mathandai.org라는 사이트에 수학자들이 「수학에서의 AI 미스얼라인먼트(A misalignment of AI in mathematics)」라는 제목의 공개 성명을 올렸거든요. 미스얼라인먼트(misalignment)는 원래 AI 안전 분야에서 쓰는 말인데요, AI가 추구하는 목표와 인간이 원하는 방향이 어긋나 있는 상태를 뜻해요. 이 단어를 제목에 가져온 건 의도적인 중의법이에요. 지금 AI 업계가 수학을 다루는 방식이 정작 수학자들이 중요하게 생각하는 가치와 어긋나 있다는 거죠.
배경: 수학이 AI의 성적표가 되다
최근 1~2년 동안 AI 연구소들의 발표를 보면 유독 수학 얘기가 많았어요. 국제수학올림피아드(IMO)에서 금메달 수준을 달성했다, 수십 년 된 미해결 문제를 풀었다, 유명 수학자가 낸 문제를 AI가 해결했다 같은 뉴스가 계속 이어졌죠. 수학은 정답이 명확하고 검증이 가능하니까 AI 능력을 보여주기에 아주 좋은 무대거든요. 그래서 자연스럽게 수학이 AI 모델의 성적표처럼 쓰이게 됐어요.
문제는 그 과정에서 수학계 자체가 소외되고 있다는 느낌을 받는 수학자들이 늘어났다는 점이에요. 성명에 담긴 문제의식을 풀어보면 대략 이런 결이에요.
첫째, 수학은 문제 풀이 대회가 아니다
수학자들이 가장 답답해하는 부분이 이거예요. AI 업계는 수학을 「문제를 얼마나 잘 푸는가」로 정의하는데, 실제 수학 연구는 그게 아니거든요. 좋은 문제를 찾아내고, 개념을 새로 만들고, 서로 다른 분야 사이의 연결을 발견하고, 왜 그 결과가 중요한지 이해하는 과정이 수학이에요. 올림피아드 문제는 이미 답이 있는 문제를 정해진 시간 안에 푸는 훈련이고, 그건 수학 연구의 아주 작은 일부일 뿐이죠. 그런데 벤치마크 점수만 오르면 「AI가 수학을 정복했다」는 식으로 이야기되니까 수학이 뭔지에 대한 대중의 이해 자체가 왜곡된다는 거예요.
둘째, 검증의 부담은 결국 사람에게
이건 개발자라면 바로 공감할 만한 부분이에요. AI가 증명을 쏟아내면 그걸 누가 검토할까요? 결국 사람 수학자예요. 증명이라는 건 한 줄만 틀려도 전체가 무너지는데, 수백 페이지짜리 AI 생성 증명을 검토하려면 엄청난 시간이 들어요. 게다가 AI가 만든 증명은 그럴듯하게 보이면서 미묘하게 틀린 경우가 많아서 오히려 사람이 쓴 것보다 검토가 더 어려울 수 있어요. 생성은 공짜에 가까워졌는데 검증은 여전히 비싸다, 이 비대칭이 수학계 전체의 시간을 갉아먹고 있다는 지적이에요. 이미 알려진 결과를 AI가 재발견한 것을 새로운 발견처럼 발표했다가 나중에 정정되는 사례도 있었고요.
셋째, 공로와 방향의 문제
AI 모델이 학습한 데이터는 결국 수학자들이 수십 년간 쌓아온 논문과 교과서예요. 그런데 그 결과물로 얻는 영광과 자원은 AI 기업에게 돌아가죠. 어떤 문제를 풀지, 어떤 방향으로 연구할지도 점점 기업의 홍보 필요에 따라 정해진다는 우려도 있어요. 「해결됐다」고 발표하기 좋은 문제, 대중에게 설명하기 쉬운 문제에 자원이 몰리고, 정작 수학적으로 중요하지만 조용한 문제들은 뒤로 밀린다는 거죠.
그렇다고 AI를 거부하는 건 아니에요
여기서 오해하면 안 되는 게, 이 성명이 AI 반대 선언은 아니라는 점이에요. 오히려 많은 수학자들이 AI를 진지하게 쓰고 있어요. 대표적인 게 형식 검증(formal verification)이에요. 이게 뭐냐면, Lean 같은 증명 보조 도구에 증명을 컴퓨터가 한 줄씩 기계적으로 확인할 수 있는 형태로 적는 거예요. 프로그래밍으로 치면 컴파일러가 타입 오류를 잡아주는 것처럼 증명의 오류를 잡아주는 셈이죠. AI가 Lean 코드를 생성하고 Lean이 그걸 검증하면 앞서 말한 「검증 부담」 문제가 상당 부분 해결돼요. 실제로 구글 딥마인드의 AlphaProof 같은 시스템이 이 방식을 써요. 테렌스 타오 같은 유명 수학자도 AI를 「증명의 지루한 부분을 맡기는 조수」로 활용하는 실험을 공개적으로 해왔고요. 성명의 요지는 AI를 쓰지 말자가 아니라, 수학계의 가치에 맞는 방향으로 쓰자는 거예요.
한국 개발자에게 주는 시사점
이 논쟁, 어디서 많이 본 구도 아닌가요? AI 코딩 도구를 둘러싼 상황과 거의 똑같아요. 코드 생성은 순식간인데 리뷰는 여전히 사람 몫이고, 벤치마크 점수는 오르는데 실제 프로젝트에서 체감은 다르고, 그럴듯하지만 미묘하게 틀린 코드가 가장 위험하죠. 수학계가 겪는 일이 우리 업계의 미래를 조금 앞서 보여주는 셈이에요.
실무적으로 배울 점은 두 가지예요. 하나는 「생성보다 검증에 투자하라」는 것. 타입 시스템, 테스트, 린터처럼 기계가 자동으로 확인해주는 장치가 AI 시대에 오히려 더 중요해져요. 형식 검증이 수학에서 하는 역할을 우리 코드베이스에서는 이런 도구들이 하는 거죠. 다른 하나는 벤치마크를 읽는 눈이에요. 어떤 모델이 수학 문제 몇 퍼센트를 풀었다는 숫자가 우리 팀의 레거시 코드를 잘 다룬다는 뜻은 아니거든요.
마무리
한 줄로 정리하면, 수학자들은 「AI가 수학을 잘하게 되는 것」과 「AI가 수학에 도움이 되는 것」은 다른 얘기라고 말하고 있어요. 여러분은 어떻게 생각하세요? AI가 만든 결과물의 검증 비용, 우리 팀에서는 어떻게 감당하고 계신가요?
🔗 출처: Hacker News