다트머스대의 산티아고 슈넬 교무처장은 올여름 워싱턴포스트에 'AI 부정행위와 싸우는 대학, 그러나 더 깊은 문제'라는 칼럼을 단독 저자로 기고했다. 그런데 8월 26일 세마포(Semafor)는 AI 탐지기 팡그램(Pangram)을 주요 신문의 외부 기고문 310건에 돌려 50건이 LLM이 쓴 것으로 보인다고 보도했고, 슈넬의 칼럼이 거기 포함됐다. 다트머스 학생신문은 후속 취재에서 같은 도구로 슈넬의 최근 글 아홉 편이 거의 전적으로 LLM 생성물로 판정됐다고 전했다. 흥미로운 점은, 슈넬이 LLM 사용을 숨기지 않고 '언어 다듬기, 교열, 명료성과 구성 개선, 작업 효율화'에 쓴다고 인정했다는 것이다. 더 나아가 그가 'AI는 보조 도구일 뿐 내 저작을 대체하지 않는다'고 해명한 그 이메일조차 팡그램 검사에서 '100% AI 작성'으로 나왔다.
탐지기에 걸렸다는 사실 자체를 LLM 사용의 결정적 증거로 삼는 것은 위험하다. LLM 특유의 문체는 피하기 어려워졌고, 애초에 그 '티'라는 것 상당수는 비원어민 영어, 예컨대 마케팅 카피에 흔한 표현이 학습 데이터에 섞인 결과이기도 하다. 베네수엘라 출신인 슈넬 같은 비원어민에게 탐지기가 편향될 가능성도 있다. 다만 이 사안에서 그 편향 논쟁은 무의미하다. 당사자가 LLM을 광범위하게 쓴다고 스스로 밝혔기 때문이다.
서명이 저작을 대신할 수 있는가
슈넬이 암묵적으로 펴는 논리는 '내가 서명하고 책임지면 실제로 얼마나 직접 썼는지는 중요하지 않다'는 것이다. 원문 필자는 프로그래밍 커뮤니티에서 동일한 주장을 봤다고 말한다. 소프트웨어 엔지니어 인드라다누시 굽타는 커밋에 클로드를 공동 저자로 올리면 실수의 책임을 회피하는 통로가 된다며 더는 LLM을 크레딧에 넣지 않겠다고 했다. 코드야말로 시(詩)처럼 인간 표현으로 여겨지지 않고, 사회가 요구하는 것은 영감을 주는 소프트웨어가 아니라 작동하는 소프트웨어다. 그러니 LLM이 쓰고 사람이 승인한 결과물이 허용될 분야가 있다면 그것은 소프트웨어 공학일 것이다.
그러나 원문은 바로 그 지점에서 컴파일러라는 반례를 든다. 사람이 C 코드를 작성해 컴파일러로 어셈블리를 생성한다고 해서, 그 어셈블리의 '저자'가 되지는 않는다. 저자는 어디까지나 C 코드를 쓴 사람이다. 인간이 쓴 것과 기계가 생성한 것을 구분해 두는 일은 오히려 올바른 소프트웨어를 만드는 데 도움이 된다. 컴파일러 버그는 드물지만 일단 발생하면, 무엇을 사람이 쓰고 무엇을 기계가 뽑아냈는지 아는 것이 문제의 근원을 짚는 데 결정적이기 때문이다. 스택오버플로 창업자 제프 앳우드가 2008년에 쓴 '프로그래밍 제1원칙: 언제나 당신 탓이다'처럼, 의존성에 책임을 떠넘기는 습관은 LLM 이전에도 있었고 늘 틀린 것이었다.
책임 회피가 아니라 출처 기록으로
대안으로 몬태나주립대의 카슨 그로스는 보다 견고한 실무 관행을 제안한다. LLM을 쓰는 엔지니어라면 코드와 함께, 그 코드를 생성해 낸 산문 형태의 설계 문서를 보존하자는 것이다. 이렇게 하면 사람이 의도한 것(프롬프트에 담긴), 사람이 검토·수정한 것(사람과 LLM을 공동 크레딧), LLM이 단독 생성한 것이 분리된다. 이론적으로는 같은 프롬프트로 더 나은 모델을 써서 코드를 다시 생성하는 것도 가능해진다. 스티커를 떼고 '수제'라고 우기는 대신, 기계의 관여를 제대로 문서화함으로써 기계와 사람 모두를 개선하자는 발상이다.
슈넬의 해명이 설득력을 잃는 지점도 여기에 있다. 그는 LLM을 '펜이나 사전 같은 보조 도구'라고 했다가, 이틀 뒤에는 '전문 편집자나 대필가, AI 편집자를 쓰더라도 출판물에 밝히지 않는 것이 관행'이라고 말했다. 그러나 자율적으로 작동하지 않는 도구와, 독립적 판단으로 아이디어를 내고 결과물에 영향을 주는 제2의 인물은 같을 수 없다. 명료성 개선, 텍스트 구성, 표현 제안이라는 그의 서술은 후자에 가깝다. 이 뒤섞인 비유는 그 자신조차 AI가 작업에 얼마나 개입하는지 확신하지 못함을 드러낸다. 공개하지 않은 LLM 사용이 '제한적'이라고 우기는 것은, 숨겨둔 핵시설을 두고 에너지용이라 주장하는 것과 비슷하다. 사실일 수도 있지만, 그렇다면 왜 숨겼고 원심분리기는 왜 그리 많은가.
한국의 실무자에게 이 글이 던지는 쟁점은 명확하다. 판사의 판결문을 로클럭이 쓰고, 비서가 상사 명의로 메일을 보내며, 제임스 패터슨이 대필 작가진을 두는 것처럼, 덜 유명한 협업자의 기여를 지우는 관행은 대개 작품의 매력을 부풀리려는 마케팅일 뿐 진실성과는 무관하다. 반대로 영화 크레딧, 번역자 표기, 책에 인쇄된 서체 정보처럼 제작 과정을 더 기록한다고 작품이 빈약해지지는 않는다. 코드든 산문이든 출처의 사슬을 분명히 해 두는 것은 서로와 결과물을 더 잘 이해하게 한다. LLM은 사람 편집자보다 훨씬 거리낌 없이 글 전체를 다시 써 버리기에, 기존 규범이 놓치고 있는 기여를 드러내는 첫걸음으로서 그 역할을 밝히는 편이 합리적이다.