수학자들이 던진 질문: OpenAI를 믿어도 될까
수학자 Andreas Thom이 수학자들의 소셜 미디어인 Mathstodon에 올린 글 하나가 큰 논의를 불러왔어요. 요지는 이거예요. 연구자가 아직 논문으로 발표하지 않은 수학 결과를 OpenAI의 모델이나 연구팀과 공유해도 괜찮은가. 제목에 '더 많은 질문'이라고 붙은 걸 보면 아시겠지만, 이건 처음 나온 이야기가 아니에요. 그동안 쌓인 사건들이 있어서 신뢰가 흔들린 상태에서 또 하나의 질문이 얹힌 거예요.
그동안 무슨 일이 있었길래요
가장 유명한 사건은 2025년 10월에 있었어요. OpenAI 임원이 GPT-5가 오랫동안 풀리지 않던 에르되시 문제 10개를 해결했다고 발표했는데, 알고 보니 모델이 새로운 증명을 한 게 아니라 이미 발표된 논문에서 답을 찾아낸 거였어요. 에르되시 문제 데이터베이스를 운영하는 수학자가 '심각한 왜곡'이라고 지적했고, 해당 게시물은 삭제됐죠. 문헌 검색 능력 자체는 유용했지만, '풀었다'는 표현이 문제였어요.
그보다 앞선 2025년 초에는 FrontierMath 논란이 있었어요. 아주 어려운 수학 문제로 구성된 벤치마크인데, OpenAI가 이 벤치마크 제작에 자금을 댔고 문제 대부분에 접근권을 가지고 있었다는 사실이 나중에 알려졌어요. 문제를 낸 수학자들조차 그 사실을 몰랐고요. 벤치마크의 독립성을 믿고 참여한 사람들 입장에서는 뒤통수를 맞은 느낌이었을 거예요.
이런 일들이 반복되면서 수학계에는 '이 회사는 우리 연구를 어떻게 쓸지 투명하지 않다'는 인식이 자리 잡았어요. 그리고 지금 OpenAI는 수학자들과의 협업을 적극적으로 늘리고 있거든요. 그래서 질문이 더 날카로워진 거예요.
이게 뭐냐면: 수학에서 '우선권'이 전부인 이유
수학 연구의 보상 체계는 좀 특이해요. 특허도 없고, 대부분 돈도 안 돼요. 유일하게 남는 건 '누가 먼저 증명했느냐'라는 기록이에요. 이걸 우선권이라고 부르는데, 그래서 수학자들은 논문이 심사를 거치기 전에도 arXiv라는 사이트에 프리프린트를 올려서 날짜 도장을 찍어둬요.
그런데 미발표 결과를 AI 모델에 넣으면 어떻게 될까요. 세 가지 걱정이 나와요.
첫째, 학습 데이터 문제예요. 소비자용 ChatGPT는 기본 설정에서 대화 내용을 모델 개선에 쓸 수 있고, 옵트아웃(사용 안 함 설정)을 해야 빠져요. API나 기업용 계약은 기본적으로 학습에 쓰지 않는다고 하지만, 연구자 개인이 그 차이를 다 알고 쓰는 건 아니거든요.
둘째, 우선권 증명이 불가능해진다는 점이에요. 내가 모델에 넣은 아이디어가 몇 달 뒤 그 모델의 '발견'으로 발표되면, 그게 내 입력 때문인지 모델이 독자적으로 도달한 건지 아무도 확인할 수 없어요. 모델 내부는 블랙박스니까요.
셋째, 홍보의 비대칭이에요. 회사는 협업 성과를 마케팅에 쓰고 싶어 하고, 연구자는 정확한 서술을 원해요. 에르되시 사건이 딱 그 충돌이었죠.
업계 맥락: AI와 수학의 밀월과 긴장
AI가 수학에 진짜로 기여하기 시작한 건 사실이에요. 2025년 7월 국제수학올림피아드에서 Google DeepMind와 OpenAI 모델이 금메달 수준 점수를 받았고, 이후 연구 수준 문제에서도 모델이 증명의 일부를 만들어낸 사례들이 나왔어요. Terence Tao 같은 저명한 수학자도 AI를 도구로 쓰되 결과는 반드시 검증해야 한다는 입장을 계속 밝혀왔고요.
여기서 대안으로 주목받는 게 Lean 같은 형식 증명 도구예요. 증명을 컴퓨터가 기계적으로 검증할 수 있는 코드로 쓰는 건데, 이러면 AI가 만든 증명이 맞는지 사람이 일일이 확인하지 않아도 되고, 누가 언제 무엇을 증명했는지 기록도 명확해져요. 신뢰 문제를 사람이 아니라 시스템으로 푸는 접근이죠.
한국 개발자에게 주는 시사점
수학 얘기 같지만, 사실 개발자에게도 똑같은 구조의 문제예요. 아직 공개 안 한 사내 아키텍처, 특허 출원 전 아이디어, 미발표 논문 초안을 챗봇에 붙여넣는 순간 같은 질문이 생기거든요.
실무적으로는 이렇게 하시면 돼요. 먼저 쓰고 있는 서비스의 데이터 정책을 확인하세요. 소비자용 무료 계정과 API, 기업 계약은 학습 데이터 사용 여부가 달라요. 민감한 내용은 데이터 미보관 옵션이 있는 API 경로나 로컬 모델을 쓰는 게 안전하고요. 그리고 중요한 아이디어는 AI에 넣기 전에 날짜가 남는 곳에 먼저 기록해두는 습관이 도움이 돼요. 회사라면 어떤 정보를 어떤 AI 도구에 넣어도 되는지 가이드라인을 만들어두는 게 좋아요.
정리하면
AI가 연구의 동료가 되려면 성능보다 먼저 '내 미발표 아이디어를 안전하게 맡길 수 있는가'라는 신뢰가 필요하다는 게 이번 논의의 핵심이에요.
여러분은 회사나 개인의 미공개 자료를 AI 도구에 넣을 때 어디까지 허용하세요? 그리고 AI 회사들이 어떤 약속을 해야 믿고 맡길 수 있을까요?
🔗 출처: Hacker News