글을 읽는 사람이라면 한 번쯤 겪어봤을 감각이 있다. 문장 몇 줄을 지나기도 전에 '이건 사람이 직접 쓴 글이 아니다'라는 확신이 든다. Oxide Computer의 브라이언 캔트릴(Bryan Cantrill)이 쓴 이 글은 바로 그 감각을 정면으로 다룬다. 그의 주장은 단순하다. 독자는 LLM이 대필한 글을 구별해낼 수 있고, 무엇보다 그런 글을 싫어한다는 것이다. 그리고 이 반응은 단순한 취향의 문제가 아니라, 글쓴이의 신뢰 자체를 무너뜨리는 결과로 이어진다.
독자는 알아챈다, 그리고 신경 쓴다
캔트릴이 인용한 신시아 던롭(Cynthia Dunlop)의 설문은 이 감각에 숫자를 붙인다. 응답한 개발자 668명 중 78%가 LLM으로 쓴 글임을 감지하면 '즉시 읽기를 멈춘다'고 답했고, 71%는 '앞으로 그 저자를 피한다'고 했다. 한 편의 글이 남기는 손해가 그 글 하나에서 끝나지 않는다는 뜻이다. 더 흥미로운 것은 98%가 LLM으로 다듬은 완벽한 글보다 저자가 직접 쓴 다소 거친 글을 선호한다고 답한 대목이다. 독자가 원하는 것은 언어적 완성도가 아니라 진정성이라는 신호다. 게다가 이런 설문에 응하는 사람들은 온라인에서 좋은 글을 퍼 나르는 얼리어답터이자 취향의 선도자들이다. 이들에게 외면당한다는 것은 확산의 통로 자체를 잃는 것이다.
왜 이런 강한 거부 반응이 생길까. 캔트릴은 이것을 글쓴이와 독자 사이의 사회적 계약이 깨지는 문제로 본다. 독자는 글쓴이가 직접 공들여 만들지 않은 문장을 해독하느라 애쓸 이유가 없다. LLM이 상당 부분 개입한 글을 읽을 때 독자는 무엇이 진짜 저자의 생각이고 무엇이 모델이 채워 넣은 것인지 알 수 없다. 그 불확실성이 거슬리는 문체적 습관과 겹치면서, 뇌는 문장 중간에 '탈출 손잡이'를 당겨버린다는 것이다.
스팸 전쟁이 주는 교훈
캔트릴은 이 상황을 2000년대 초 이메일 스팸의 역사에 빗댄다. 한때 스팸의 폭증으로 이메일이 끝장날 것이라는 공포가 있었지만, 2000년대 후반 스팸 필터링이 충분히 정교해지면서 스팸의 경제학 자체가 무너졌다. 대량으로 걸러낼 수 있게 되자 '스팸으로 분류된다'는 것의 대가가 커졌고, 오늘날 정상적인 기업은 대량 메일 발송에 극도로 신중하다. 스팸으로 낙인찍히는 순간 도메인과 브랜드가 훼손되기 때문이다. 핵심은 대규모로 식별이 가능해진 시점에 전세가 뒤집혔다는 점이다. 그렇다면 LLM 대필 글에도 같은 일이 일어날 수 있지 않을까.
이 지점에서 그는 탐지 도구를 이야기한다. 그동안의 결과는 신통치 않았다. LLM에게 LLM 판별을 맡겨보니 거짓 음성(사람 글로 잘못 판정)이 너무 많았고, 다른 서비스들은 대시(em-dash) 같은 표면적 단서에 의존해 대시를 즐겨 쓰는 캔트릴 같은 사람을 불안하게 만들었다. 그가 신뢰하게 된 것은 팽그램 랩스(Pangram Labs)의 모델이다. 지난해 나온 Pangram 3부터 거짓 양성률이 매우 낮아, 이 도구가 AI 작성이라고 판정하면 실제로 LLM이 깊이 개입했다고 확신할 수 있었다고 한다. 한 달여 전 나온 Pangram 4는 거짓 양성과 거짓 음성 모두 낮은 계단식 개선이었다고 평가한다.
실무자에게 남는 질문
캔트릴은 여기서 조직 차원의 정책으로 나아간다. 그는 Oxide의 내부 문서인 RFD 576을 개정해, 공개적으로 발행되는 글은 팽그램이 '사람이 작성했다'고 판정해야 한다는 기준을 명시했다. 여기서 주목할 것은 그 기준의 논리다. LLM을 쓰지 않는 것만으로는 부족하고, 독자가 'LLM으로 쓰지 않았다'고 확신할 수 있어야 한다는 것이다. 기관의 목소리에 진정성을 두는 조직이라면 비슷한 정책을 검토할 만하다고 그는 권한다.
다만 한국의 실무자가 이 주장을 받아들일 때는 몇 가지 한계를 함께 봐야 한다. 이 글은 특정 탐지 도구에 대한 저자 개인의 사용 경험에 크게 기대고 있으며, 거짓 음성률이 여전히 높다는 점은 저자 스스로 인정한다. 탐지기를 정책의 관문으로 삼는 순간, 오탐 한 건이 사람의 글을 부당하게 낙인찍을 위험도 함께 따라온다. 특히 비영어권 필자나 번역된 글, 정형화된 기술 문서처럼 문체적 특징이 다른 경우 판정이 어떻게 나올지는 이 글이 답하지 않는다.
그럼에도 이 글의 실무적 메시지는 도구 논쟁과 별개로 유효하다. 공개 글쓰기의 유일한 목적은 독자에게 봉사하는 것이며, 독자가 등을 돌리면 글은 목적을 잃는다. 캔트릴은 LLM을 전면 부정하지 않는다. 그는 LLM이 '훌륭한 편집자'라고 분명히 말한다. 다만 프롬프트를 뼈대로 삼아 글은 스스로 쓰라는 것, 그리고 남이 읽어주기를 바란다면 대필까지 맡기지는 말라는 것이 그의 결론이다. 도구를 쓰되 누가 그 글의 저자인지에 대한 신호는 흐리지 말라는 요구로 읽을 수 있다.