"문샷AI가 클로드 Fable을 증류해 K3를 만들었다" — 백악관발 AI 모델 도용 논란

무슨 일이 있었냐면

백악관 과학기술정책실(OSTP)을 이끄는 마이클 크라치오스가 트위터에 짧지만 파장이 큰 글을 올렸어요. '문샷(Moonshot)이 K3 개발을 위해 Fable을 증류했다는 정보를 갖고 있다'는 내용인데요. 여기서 문샷AI는 Kimi 시리즈로 잘 알려진 중국의 AI 연구소고, Fable(페이블)은 앤트로픽의 최상위 플래그십 모델이에요. K3는 문샷이 준비 중인 차세대 모델이고요. 요약하면, 미국 정부 고위 인사가 '중국 AI 회사가 미국 프런티어 모델의 출력을 몰래 학습에 썼다'고 공개적으로 주장한 거예요.

'증류'가 뭐길래 문제가 될까요

증류(distillation)는 원래 멀쩡한, 아니 오히려 아주 유용한 기술이에요. 이게 뭐냐면, 크고 똑똑한 '선생 모델'의 출력을 데이터 삼아 작고 가벼운 '학생 모델'을 가르치는 방법이거든요. 선생님이 풀어놓은 풀이집으로 학생이 공부하는 것과 비슷해요. 대형 모델을 스마트폰에서 돌릴 만큼 작게 만들 때 다들 쓰는 정석적인 기법이고, 각 회사가 자기 모델을 경량화할 때는 아무 문제가 없어요.

문제는 남의 상용 모델을 선생으로 삼을 때예요. 경쟁사 API를 대량으로 호출해서 질문과 답변 쌍을 수백만 개 모으고, 그걸로 자기 모델을 학습시키는 거죠. 프런티어 모델 하나를 만드는 데 수천억 원대의 컴퓨팅과 데이터 구축 비용이 드는데, 증류를 하면 그 결과물의 '행동'을 훨씬 싸게 흡수할 수 있거든요. 그래서 앤트로픽이나 OpenAI 같은 회사들은 약관에 '우리 모델의 출력을 경쟁 모델 학습에 쓰지 말라'는 조항을 명시하고 있어요.

그럼 증류를 어떻게 잡아내느냐가 궁금하실 텐데, 몇 가지 정황 증거가 쓰여요. 대표적인 게 자기 정체성 혼동이에요. 다른 모델의 출력으로 학습한 모델이 '나는 클로드예요'라고 자기소개를 해버리는 현상이 실제로 여러 모델에서 관찰된 적이 있거든요. 그 밖에 특유의 말버릇이나 거절 패턴 같은 문체 지문, API 호출 로그에서 드러나는 대량 수집 패턴 같은 것들이 있죠. 다만 이번 건에서 크라치오스는 '정보가 있다'고만 했지 증거를 공개하지는 않았어요. 앤트로픽이 공식적으로 확인한 사안도 아니고요. 그러니 현시점에서는 어디까지나 검증되지 않은 주장으로 읽는 게 맞아요.

처음 있는 일이 아니에요

기시감이 든다면 정확해요. 2025년 초 딥시크가 R1으로 세상을 놀라게 했을 때도 OpenAI가 '딥시크가 우리 모델을 증류한 정황이 있다'고 주장했고, 당시에도 백악관 쪽 인사들이 가세하면서 논란이 커졌었죠. 문샷AI는 작년에 공개한 Kimi K2로 좋은 평가를 받았던 곳이에요. 1조 파라미터급 전문가 혼합(MoE, 여러 전문가 네트워크 중 일부만 골라 쓰는 효율적인 구조) 모델을 오픈 웨이트(모델 가중치를 공개하는 방식)로 풀면서 에이전트와 코딩 성능으로 주목받았거든요. 그런 곳의 차기작에 증류 의혹이 제기된 거라 무게가 다르죠.

한편으로 이 논쟁에는 껄끄러운 아이러니도 있어요. 프런티어 모델들 자체가 웹에 있는 수많은 사람의 창작물을 학습해서 만들어졌고, 그 저작권 분쟁도 아직 진행 중이잖아요. '누가 누구의 데이터를 허락 없이 썼나'라는 질문이 층층이 쌓여 있는 셈이에요. 그리고 미중 AI 경쟁이 격화된 상황에서 나온 정부 인사의 발언이라는 정치적 맥락도 함께 놓고 봐야 하고요.

한국 개발자에게는 뭐가 중요할까요

첫째, 오픈 웨이트 모델을 업무에 도입할 때 모델의 출처와 학습 이력이 컴플라이언스 이슈가 될 수 있다는 점이에요. 지금은 '성능 좋고 공짜면 쓴다'가 통하지만, 이런 분쟁이 법적 다툼으로 번지면 기업 입장에서는 도입 근거를 따져야 할 수 있거든요. 둘째, 우리가 합성 데이터를 만들 때도 마찬가지예요. 상용 API의 출력으로 사내 모델을 파인튜닝하는 건 국내 팀들도 흔히 하는 일인데, 사용하는 API의 약관에 경쟁 모델 학습 금지 조항이 있는지 확인해 두는 게 좋아요. 셋째, 국내 LLM 개발사들에게도 남 얘기가 아니에요. 프런티어 모델의 출력이 사실상 전략 자원처럼 취급되기 시작하면, 데이터 확보 전략 자체를 다시 짜야 하니까요.

정리하면, 이번 발언은 사실 여부와 별개로 '모델의 출력도 지켜야 할 자산'이라는 인식이 정부 차원으로 올라왔다는 신호예요. 여러분 생각은 어떠세요? 모델 출력으로 다른 모델을 학습시키는 건 어디까지 허용되어야 할까요? 웹 데이터를 긁어서 학습한 회사들이 자기 출력의 학습 사용을 막는 건 정당할까요?