Y 콤비네이터 CEO 개리 탄이 테크크런치를 통해 꽤 도발적인 주장을 내놨어요. 미국의 오픈웨이트 AI 랩들도 프론티어 모델을 '증류'해서 모델을 만들어야 한다는 거예요. 여기서 '도(too)'가 핵심인데요. 이미 누군가는 하고 있다는 뜻이거든요. 최근 오픈웨이트 모델 시장을 보면 DeepSeek, Qwen, Kimi, GLM 같은 중국 모델들이 사실상 주도하고 있고, 미국 프론티어 랩들은 이 모델들이 자기네 API 출력을 대량으로 긁어다 학습에 썼다고 문제를 제기해 왔어요. 앤트로픽은 2026년 초에 일부 중국 랩들이 가짜 계정을 동원해 산업적 규모로 '증류 공격'을 벌였다는 조사 결과를 공개하기도 했고요. 탄의 주장은 이 상황을 뒤집어서, 어차피 증류가 오픈웨이트 경쟁의 핵심 기술이라면 미국 쪽도 정당한 방식으로 그 길을 열어줘야 한다는 쪽에 가까워요.
증류가 뭐냐면
증류(distillation)는 2015년 제프리 힌튼이 정리한 개념이에요. 이게 뭐냐면, 크고 똑똑한 '선생님 모델'의 행동을 작고 가벼운 '학생 모델'이 따라 배우는 학습 방법이에요. 원래 방식은 선생님이 각 답에 매기는 확률 분포(소프트 라벨)를 학생이 그대로 흉내 내는 거였어요. 정답만 알려주는 게 아니라 '이 답이 70%, 저 답이 20%'라는 뉘앙스까지 전해주니까 학생이 훨씬 빨리 배우죠.
LLM 시대에는 이게 훨씬 단순해졌어요. 선생님 모델의 내부를 볼 필요도 없이, API로 질문을 수십만 개 던져서 답변을 모은 다음 그 데이터로 학생 모델을 파인튜닝하면 돼요. 이걸 블랙박스 증류 또는 시퀀스 수준 증류라고 불러요. DeepSeek이 R1을 공개하면서 함께 내놓은 Qwen과 Llama 기반의 작은 모델들이 딱 이 방식이었는데, 수십억 파라미터짜리 모델이 추론 벤치마크에서 놀라운 점수를 냈거든요. 처음부터 강화학습으로 추론 능력을 키우려면 엄청난 컴퓨팅이 드는데, 잘 만들어진 선생님의 답변을 베끼면 그 비용의 극히 일부로 비슷한 효과를 얻을 수 있어요. 그래서 증류는 '싼값에 따라잡는 기술'이라는 이미지가 붙었죠.
문제는 약관이에요. OpenAI, 앤트로픽, 구글의 API 이용약관에는 출력물을 경쟁 모델 학습에 쓰지 말라는 조항이 있어요. 그래서 남의 프론티어 모델을 API로 증류하는 건 기술 문제가 아니라 계약과 법의 문제가 돼요.
탄의 논리와 반론
탄의 논리는 이렇게 읽혀요. 중국 랩들이 약관을 어기면서까지 증류로 오픈웨이트 시장을 장악하는 동안, 미국 오픈웨이트 진영은 규칙을 지키느라 뒤처지고 있다는 거예요. 그 결과 전 세계 스타트업과 개발자들이 중국 모델 위에서 제품을 만들게 되면, 장기적으로 미국 AI 생태계가 손해라는 거죠. 그래서 미국 프론티어 랩들이 자국 오픈웨이트 랩에게 정당하게 증류를 허용하거나 라이선스를 주는 식의 해법을 요구하는 거예요.
흥미로운 건, 이미 회사 안에서는 다들 하고 있다는 점이에요. 구글은 Gemma 2와 3가 더 큰 모델에서 증류한 모델이라고 기술 보고서에 밝혔어요. 메타의 Llama 3.2 작은 모델들도 큰 모델에서 가지치기와 증류로 만들었고요. 즉 논쟁의 진짜 쟁점은 '증류를 하느냐'가 아니라 '회사 경계를 넘어서 증류하느냐'예요. 반론도 만만치 않아요. 프론티어 랩 입장에서는 수십억 달러를 들여 만든 능력을 경쟁자에게 헐값에 넘기는 셈이고, 안전 측면에서도 위험한 능력이 통제 없이 퍼질 수 있다는 우려가 있거든요. 게다가 증류로 만든 모델은 선생님을 넘어서기 어렵다는 한계도 있어요. 따라잡기엔 좋지만 앞서 나가는 기술은 아니라는 거죠.
업계 흐름에서 보면
2025년 이후 오픈웨이트 판도는 확실히 기울었어요. 허깅페이스 다운로드 순위에서 중국 모델의 비중이 계속 커졌고, 메타는 Llama 4 이후 주춤한 상태예요. 미국 쪽 대응으로 OpenAI가 2025년 8월 gpt-oss를 내놨고, 엔비디아는 Nemotron 시리즈를, AI2는 OLMo를 밀고 있지만 아직 판을 뒤집진 못했어요. 탄의 발언은 이런 흐름에서 '규칙을 바꾸자'는 정치적 제안에 가깝고, 그래서 기술 뉴스이면서 동시에 산업 정책 뉴스이기도 해요.
한국 개발자에게 주는 시사점
한국도 국가 차원의 독자 파운데이션 모델 프로젝트가 진행 중이잖아요. 증류를 어디까지 허용할 것인가는 우리에게도 곧 닥칠 질문이에요. 실무 차원에서는 더 직접적이에요. 특정 업무에 특화된 작은 모델이 필요할 때, 증류는 가장 현실적인 방법이거든요. 다만 선생님 모델을 고를 때 라이선스를 꼭 확인하세요. Qwen, DeepSeek, gpt-oss처럼 출력물 활용이 자유로운 오픈웨이트 모델을 선생님으로 쓰면 약관 문제가 없어요. 방법도 어렵지 않아요. 선생님 모델에 여러 답을 생성시키고, 검증기로 좋은 답만 골라내서(리젝션 샘플링), 그 데이터로 학생을 SFT하는 흐름이 기본이에요. 이 파이프라인을 한 번 갖춰두면 모델이 바뀌어도 계속 써먹을 수 있어요.
마무리
한 줄로 정리하면, 증류는 이미 오픈웨이트 경쟁의 핵심 기술이고, 진짜 논쟁은 '누가 누구를 증류해도 되는가'라는 규칙 싸움이에요. 여러분은 프론티어 랩이 자국 오픈웨이트 랩에게 증류를 허용하는 게 맞다고 보세요? 아니면 결국 모두가 규칙을 지키게 만드는 쪽이 맞을까요?
🔗 출처: Hacker News