앤스로픽이 클로드(Claude) 모델이 생성하는 모든 텍스트에 워터마크를 심겠다고 밝히면서 논란이 커지고 있다. 발단은 EU의 'AI 생성 콘텐츠 투명성 실천강령(Code of Practice on Transparency of AI-Generated Content)'을 준수하기 위한 조치다. 앤스로픽은 처음 공개한 지원 문서에서 "감지할 수 없는(imperceptible) 워터마크를 텍스트에 직접 엮으며, 의미나 품질, 가독성을 바꾸지 않는다"고 설명했다. 하지만 정작 그 문서 제목은 '클로드가 AI 생성 콘텐츠를 표시하는 방법'이었음에도 작동 원리를 전혀 설명하지 않았고, 이후 '클로드의 텍스트 워터마크 작동 방식'이라는 별도 문서를 통해서야 구체적인 방법이 공개됐다.
동전 던지기로 이해하는 워터마크 원리
핵심 기법은 눈에 보이지 않는 유니코드 문자를 숨기는 방식이 아니라, 일종의 스테가노그래피(steganography), 즉 단어 선택 자체에 통계적 지문을 남기는 방식이다. 대형언어모델은 다음 토큰을 생성할 때마다 여러 후보 중 하나를 고르는데, 이 지점에서 단어들을 '녹색'과 '적색' 목록으로 나눈다. 모델은 녹색 목록의 단어를 약간 더 자주 고르도록 유도된다. 적색 단어를 아예 안 쓰는 것이 아니라, 51대 49로 조작된 동전처럼 확률만 살짝 기운다. 목록은 각 토큰 생성 시점마다 결정론적으로 즉석에서 정해지므로, 같은 단어라도 어떤 때는 녹색, 어떤 때는 적색이 된다. 따라서 클로드가 항상 선호하거나 기피하는 고정된 단어 목록은 존재하지 않는다.
검출은 동전 던지기와 같은 논리다. 던진 횟수가 많을수록 동전이 공정한지 판정할 신뢰도가 올라가듯, 텍스트가 길수록 녹색 단어가 기대치보다 많은지를 통계적으로 판별하기 쉬워진다. 반대로 200토큰(약 150단어) 미만의 짧은 텍스트에서는 사실상 아무 판단도 할 수 없다. 또한 검출에는 비밀 키가 필요하다. 앤스로픽만이 클로드가 생성한 텍스트를 판별할 수 있고, 제미나이가 남긴 워터마크는 감지하지 못한다. 각 사업자가 자기 키로 심은 흔적만 자기가 확인할 수 있는 구조다.
원문 필자가 문제 삼는 지점
다링파이어볼의 필자는 이 방식이 텍스트의 의미 자체를 훼손한다고 강하게 비판한다. 두 동의어는 결코 완전히 같은 뜻이 아니라는 것이다. "그는 기회를 향해 도약했다"와 "그는 기회에 뛰어들었다"는 비슷하지만 같지 않으며, 글쓰기에서 정확한 단어 선택은 결정적이다. 속도·비용·품질 사이의 절충은 사용자 자신의 이익을 위한 것이지만, 출처를 표시하려는 목적으로 단어를 고르게 만드는 것은 사용자에게 아무 이득이 없는 왜곡이라는 주장이다. 특히 앤스로픽이 200토큰을 넘는 모든 출력에 이를 적용하겠다고 밝힌 점, 심지어 아무도 읽지 않을 사용자와의 사적인 대화에서조차 명료함 대신 통계적 예측 가능성을 위해 단어를 고르게 된다는 점을 지적한다.
실효성 논란도 크다. 규정을 문자 그대로 적용하면 준수 대상 모델의 이용약관은 사용자가 출력물을 바꿔 쓰는 행위(rephrasing)조차 금지해야 한다. 단어 선택 그 자체가 표식이기 때문이다. 제임스 파돌시(James Padolsey)는 이 방식이 '약한 법을 달래는 약한 워터마크'라며, 계산기나 맞춤법 검사기의 도움은 문제 삼지 않으면서 문장 전체를 쓸 수 있는 도구만 의심하는 것은 원칙이 아니라 '난이도에 매긴 도덕적 프리미엄'이라고 꼬집었다. 그는 AI 특유의 문체를 지워 평범한 산문으로 되돌려주는 웹앱 'Declaude'의 제작자이기도 한데, 앤스로픽이 계획을 강행하면 이 도구는 복사-붙여넣기 한 단계만으로 워터마크를 제거하는 수단이 될 수 있다.
실무자가 새겨둘 함의
결국 이 구조의 맹점은 정직한 사용자에게만 부담이 쏠린다는 데 있다. AI 글을 자기 것으로 위장하려는 이들은 비준수 패러프레이징 도구로 손쉽게 흔적을 지울 수 있는 반면, 교정이나 초안 작성 같은 정당한 보조 용도의 사용자는 오히려 의심의 대상이 된다. 표식은 무해한 사용까지 광범위하게 걸릴 만큼 넓지만, 마음먹은 사람이 재작성으로 제거할 만큼 취약하다. 콘텐츠 제작이나 문서 작업에 LLM을 도입하는 조직이라면, 출력물의 미묘한 단어 선택이 사용자 이익이 아닌 출처 표시를 위해 조정될 수 있다는 점, 그리고 그 검출력이 텍스트 길이에 크게 좌우된다는 점을 전제로 워크플로를 점검할 필요가 있다. 이미지·오디오처럼 메타데이터로 워터마크를 심어 경험 품질을 해치지 않는 구글 SynthID 방식과 달리, 텍스트에서는 표식과 의미가 분리되지 않는다는 근본적 한계가 이 논쟁의 핵심이다.