AI 탐지기 머릿속 들여다보기: 사람과 AI는 어떻게 갈릴까

Pangram은 AI가 쓴 글을 잡아내는 탐지기로 잘 알려져 있다. 이 글은 최신 모델 3.3.2의 '내부 표현', 즉 모델이 텍스트를 벡터 공간에 어떻게 배치하는지를 시각화해 보여준다. 핵심 인사이트는 두 가지다. 첫째, 사람이 쓴 글과 AI가 생성한 글이 잠재 공간에서 뚜렷하게 분리된 군집을 이룬다. 둘째, AI 글끼리도 GPT·Claude·Gemini 같은 생성 모델별로 서로 다른 영역에 모인다. 즉 각 LLM은 고유한 '문체 지문'을 남기며, 탐지기는 단순 키워드가 아니라 이런 미묘한 통계적 패턴을 학습한다. 언어와 도메인에 따라서도 구조가 드러나, 모델이 무엇을 근거로 판단하는지를 어느 정도 해석할 수 있다. 블랙박스로 여겨지던 분류기의 결정 과정을 눈으로 확인할 수 있다는 점이 흥미롭다. AI 콘텐츠 검증이나 NLP 모델 해석에 관심 있는 개발자라면 한 번쯤 들여다볼 만하다.