AI가 수학의 미해결 문제를 풀었다는 소식이 이어지면서, 정작 연구자 사이에서는 다른 종류의 불안이 커지고 있다. 성능이 아니라 신뢰의 문제다. 수학자 안드레아스 톰(Andreas Thom)은 최근 불거진 논란을 정리하면서, OpenAI가 발표한 이른바 '비소픽(non-sofic) 군' 관련 성과를 계기로 자신이 겪은 일을 공개했다. 핵심 질문은 단순하다. 아직 출판되지 않은 수학 연구를 OpenAI에 맡겨도 되는가.
발단이 된 이메일
톰은 자신과 가보르 쿤(Gabor Kun)의 방법론을 활용한 비소픽 군 발견 소식이 나온 직후, OpenAI의 마크 셀케(Mark Sellke)와 세바스티앙 부벡(Sebastien Bubeck)에게 이메일을 보냈다고 밝혔다. 그와 드레스덴의 한 동료는 지난 수개월간 '확장자 매칭(expander matching) 문제'와 쿤과의 작업을 확장하는 여러 논의를 ChatGPT와 활발히 주고받아 왔다. 그래서 그는 두 가지를 명확히 물었다. 첫째, 그 대화가 학습 데이터에 들어갔는지. 둘째, 그 대화가 문제를 푸는 추론 과정에서 접근 가능했는지. 그는 이메일에서 이런 불투명성을 '솔직히 용납하기 어렵다'고 표현하며, 새로운 AI 결과가 학문에 주는 이득보다 수학 공동체의 협업 과정을 해치는 손실이 더 클까 우려된다고 적었다.
돌아온 답은 짧았다. 셀케의 전체 답변은 '당신의 ChatGPT 대화에 관해서는, 그런 일은 없었다'는 한 문장이었다. 문제는 이 문장의 범위다. 톰은 두 가지를 나눠 물었는데, 지금 와서 보면 이 단정적 답변은 사실상 두 번째, 즉 풀이 과정에서의 직접 접근만을 다룬 것처럼 읽힌다. 어떤 단서도, 설명도, 근거도 함께 제시되지 않았다. 그는 이를 '최소한으로 말해도 부정직하다'고 규정했다.
'없었다'와 '배제할 수 없다' 사이
이 해석에 무게를 싣는 것은 OpenAI 자신의 후속 입장이다. 별개의 버크마스터-알푀게(Buckmaster-Alpöge) 사례에서 OpenAI는 특정 사용자 데이터가 접근된 바 없다고 밝히면서도, 사용자들의 제품 이용에서 파생된 '비식별화된 데이터'가 모델 개선에 기여했을 가능성은 배제할 수 없다고 덧붙였다. '직접 접근은 없었다'는 강한 부정과 '학습 기여는 배제할 수 없다'는 유보가 나란히 놓이는 순간, 셀케의 짧은 답변이 왜 첫 번째 질문을 비켜갔는지에 대한 의심은 자연스러워진다. 두 진술은 모순되지 않지만, 정확히 그렇기 때문에 문제적이다. 데이터가 개별적으로 인용되지 않더라도, 집계·비식별 처리를 거쳐 모델 능력 자체에 녹아들 수 있다는 뜻이기 때문이다.
실무자에게 남는 질문
이 논란은 수학계만의 이야기가 아니다. 상용 AI 서비스에 입력한 내용이 어떤 경로로 다시 쓰이는지에 관한 문제이기 때문이다. 많은 기업용 약관은 '사용자 데이터를 학습에 쓰지 않는다'고 명시하지만, 무료·일반 소비자용 제품은 사정이 다르며, '비식별화 후 활용'이라는 예외 조항이 어디까지 적용되는지는 대체로 흐릿하다. 미출판 논문, 특허 이전의 아이디어, 내부 설계 문서처럼 '아직 세상에 없는' 지식일수록 위험은 커진다. 한번 모델 파라미터에 스며든 정보는 특정 대화를 지목해 삭제하기도, 기여 여부를 사후에 감사하기도 사실상 불가능하다.
동시에 이 사안의 한계도 분명히 해둘 필요가 있다. 지금까지 공개된 것은 한 연구자의 문제 제기와 OpenAI의 짧고 유보적인 답변뿐이며, 톰의 대화가 실제로 학습이나 풀이에 쓰였다는 기술적 증거가 제시된 것은 아니다. '부정직'이라는 평가 역시 답변의 범위에 대한 그의 해석이다. 그럼에도 실무적으로 얻을 교훈은 증거의 유무와 무관하게 유효하다. 검증 불가능한 신뢰를 전제로 민감 정보를 외부 모델에 넣지 말 것, 계약서상 학습 배제·데이터 보존 조항을 축자적으로 확인할 것, 그리고 조직 내부에 '무엇을 어떤 AI에 입력해도 되는가'에 대한 명시적 기준을 둘 것이다. AI의 추론 능력을 신뢰하는 것과, 그 서비스 제공자에게 미공개 지식의 관리를 맡기는 것은 전혀 다른 결정이다.