AI가 쓴 글에 몰래 심는 '워터마크', 글쓰기의 본질을 해치는 걸까

무슨 일이 있었냐면요

애플 관련 글로 유명한 블로그 '다링 파이어볼(Daring Fireball)'의 존 그루버가 Anthropic을 정면으로 비판하는 글을 올렸어요. Claude가 생성하는 텍스트에 눈에 보이지 않는 '워터마크'가 섞여 나온다는 지적인데요, 그루버는 이걸 '글쓰기에 대한 모독'이라는 아주 강한 표현까지 써가며 비판했어요. AI가 쓴 글인지 사람이 쓴 글인지 구분할 수 있게 하겠다는 취지 자체는 이해가 가지만, 사용자가 모르는 사이에 결과물인 텍스트에 몰래 손을 댄다면 그건 전혀 다른 차원의 문제라는 거죠.

텍스트 워터마크, 이게 뭐냐면요

이미지나 영상에 넣는 워터마크는 다들 익숙하실 텐데, 텍스트에 워터마크를 넣는다는 건 좀 생소하죠. 방식은 크게 두 가지가 있어요.

첫 번째는 유니코드 트릭이에요. 화면에는 전혀 보이지 않는 폭 없는 문자(zero-width character)를 글자 사이에 끼워 넣거나, 일반 공백 대신 특수한 공백 문자를 쓰거나, 따옴표나 하이픈을 미묘하게 다른 유니코드 문자로 바꿔치기하는 방식이에요. 사람 눈에는 똑같은 글로 보이지만, 프로그램으로 검사하면 '아, 이건 특정 AI가 생성한 텍스트구나'를 알아낼 수 있는 거죠.

두 번째는 통계적 워터마킹이에요. LLM은 다음 단어를 고를 때 확률적으로 선택하는데, 이 선택 과정에 아주 미세한 편향을 걸어두는 거예요. 단어 하나하나만 보면 전혀 티가 안 나지만, 문장 수백 개를 통계적으로 분석하면 그 편향 패턴이 드러나서 생성 여부를 판별할 수 있어요. 구글 딥마인드가 만든 SynthID-Text가 이 방식이고, 실제로 Gemini에 적용돼 있어요. OpenAI도 비슷한 기술을 개발해뒀지만 사용자 이탈을 우려해 도입을 보류하고 있다고 알려져 있고요.

그루버는 왜 이렇게 화가 났을까요

글 쓰는 사람 입장에서 생각해보면 이해가 돼요. 내가 도구를 써서 만든 결과물은 온전히 내 것이어야 하는데, 도구가 몰래 자기 흔적을 심어놓는다면 그건 도구와 사용자 사이의 신뢰를 깨는 일이거든요. 실제로 눈에 안 보이는 특수 문자가 섞여 있으면 실질적인 문제도 생겨요. 텍스트를 복사해서 코드에 붙여 넣으면 컴파일 에러가 나거나, 검색이 안 되거나, diff를 볼 때 이상한 변경 사항이 잡히는 식이죠. 개발자라면 눈에 안 보이는 유니코드 문자 때문에 몇 시간을 날려본 경험, 한 번쯤 있으실 거예요.

반대편 논리도 있어요. AI 생성 콘텐츠가 폭발적으로 늘면서 가짜 뉴스, 학술 부정행위, 스팸 같은 문제가 심각해졌고, EU의 AI 법(AI Act)은 AI가 생성한 콘텐츠에 기계가 판독할 수 있는 표시를 하도록 요구하고 있거든요. 이미지 쪽에서는 C2PA라는 출처 증명 표준이 자리 잡아가고 있는데, 텍스트는 그런 표준이 마땅치 않아서 각 회사가 각자의 방식을 실험하는 상황이에요. 그러니까 이번 논쟁은 '규제와 안전성'과 '창작물의 순수성'이 정면으로 부딪힌 사건이라고 볼 수 있죠.

한국 개발자에게 주는 시사점

실무적으로 챙길 부분이 있어요. LLM API 출력을 그대로 DB에 넣거나 사용자에게 보여주는 서비스를 만들고 있다면, 출력 텍스트 정규화(sanitization) 를 파이프라인에 넣어두는 걸 추천해요. 유니코드 NFC 정규화를 돌리고, zero-width 문자(U+200B, U+200C, U+FEFF 같은 것들)를 제거하는 간단한 처리만으로도 보이지 않는 문자 때문에 생기는 버그를 예방할 수 있거든요. 검색 인덱싱이나 문자열 비교 로직이 있는 서비스라면 특히요. 그리고 AI 생성 콘텐츠 표시 의무화는 한국에서도 논의가 진행 중인 주제라서, 콘텐츠 관련 서비스를 만드는 분이라면 이 흐름을 미리 알아두는 게 좋아요.

정리하면

AI 생성 텍스트의 출처를 밝히려는 기술적 시도와, 내 글에 아무도 손대지 말라는 창작자의 권리가 충돌하기 시작했어요. 여러분은 어떻게 생각하세요? AI가 쓴 글에 보이지 않는 표식을 넣는 것, 필요한 안전장치일까요, 아니면 선을 넘은 개입일까요?