한 지리공간 머신러닝 연구팀이 올여름 NeurIPS, WACV, 그리고 ECCV 부설 워크숍인 TerraBytes에 제출된 논문 22편을 나눠 심사한 경험을 공개했다. 결과는 뼈아팠다. 22편 중 15편(68%)이 완전히 지어낸 인용, 실제 논문에 붙은 가짜 저자 명단, 또는 명백한 대규모 언어모델(LLM) 생성 흔적을 담고 있었다. 이들은 이 상황을 'AI 슬롭(slop) 참호전'이라 부른다. 생성형 AI가 쏟아내는 저품질 산출물을 걸러내느라 진짜 과학을 평가할 시간이 사라지는 현실을 가리키는 말이다.
가장 상징적인 사례는 두 편의 제출 논문이었다. 심사자가 개인적으로 아는 연구자들의 논문을 인용하면서, 실제 저자 이름을 존재하지 않는 가상의 이름으로 바꿔치기해 놓았다. 논문 제목, 학회, 나머지 저자는 모두 실재했고 지어낸 이름도 대충 훑으면 넘어갈 만큼 그럴듯했다. 심사자는 리젝(게재 거부)을 권고하고 주최 측에 직접 문제를 제기했지만, 두 논문 모두 '가짜 인용만 고치면 된다'는 조건으로 구두 발표(oral) 세션에 채택됐다. 유명 위성영상 모델 SatMAE의 저자 명단이 실제 'Yezhen Cong, Samar Khanna, Chenlin Meng'에서 'Yuyang Cong, Saurabh Khanna, Chen Meng'처럼 미묘하게 뒤틀린 채 인용된 경우도 있었다. 53쪽에 걸쳐 환각성 전문용어로 채워진 NeurIPS 논문, 인용마다 LLM이 남긴 메모가 그대로 박혀 있던 논문도 등장했다.
개별 부주의가 아니라 구조적 규모의 문제
이 팀만의 불운이 아니다. 지난 1년간 여러 방식으로 규모가 측정됐다. Nature의 4월 분석은 2025년 출판물 최소 수만 건이 유효하지 않은 AI 생성 참고문헌을 '아마도' 포함한다고 봤다. Zhao 등의 감사는 arXiv, bioRxiv, SSRN, PubMed Central을 대상으로 2025년 한 해에만 약 14만6,900건의 환각 인용을 추정했는데, 소수 악성 저자에 몰려 있기보다 많은 논문에 얇게 퍼져 있었고 초기 경력 연구자와 소규모 팀에서 더 흔했다. 더 심각한 것은 심사가 이를 걸러내지 못한다는 점이다. bioRxiv 프리프린트의 환각 인용을 정식 출판본까지 추적했더니 85.3%가 그대로 남아 있었다. The Lancet의 250만 편 규모 조사에서는 조작된 참고문헌을 하나 이상 포함한 논문 비율이 2년 만에 여섯 배로 뛰어, 2023년 2,828편당 1편에서 2025년 458편당 1편, 2026년 초에는 277편당 1편에 이르렀다. Ansari(2026)의 분석에 따르면 NeurIPS 2025에 실제 게재된 논문에서 뽑은 환각 인용 100건은 전부 3~5명의 전문가 심사를 통과했고, 이를 실은 53편은 채택 논문의 약 1%로 지금도 논문집에 남아 있다.
심사자도 AI를 쓴다
슬롭은 양방향으로 흐른다. AI 글쓰기 탐지 기업 Pangram은 ICLR 2026 리뷰의 21%(1만5,899건)가 완전히 AI로 작성됐고 절반 이상이 어떤 형태로든 AI가 개입했다고 분석했다. Gartenberg 등(2026)은 학술지 Organization Science에서 ChatGPT 이후 투고가 42% 급증했고 동료 심사의 30% 이상이 AI를 일부 사용한다고 측정했다. ICML 2026은 제출물에 프롬프트 인젝션 함정을 숨겨, LLM 사용 금지 정책이 적용된 심사자 중 795건(전체의 약 1%)의 리뷰가 LLM을 썼음을 적발했다. 더 위험한 것은 AI 심사자가 직접 조작 가능하다는 점이다. Li 등(2026)은 논문의 과학적 내용을 바꾸지 않고 초록만 적대적으로 다시 쓰는 것만으로 AI 생성 리뷰 결과를 개선할 수 있었고, 가장 강한 공격은 약 38% 확률로 성공해 10점 척도에서 Gemini 3 Flash 심사자의 평점을 +1.31, GPT 5.4 Mini 심사자의 평점을 +0.88 끌어올렸다.
실무자가 가져갈 신호와 방어선
리뷰어들이 꼽은 'LLM이 썼다'는 신호는 실무에서도 참고할 만하다. 'It's not X, it's Y' 같은 상투 구문, 곳곳의 굵은 글씨와 em 대시, 파싱이 어려운 지나치게 밀도 높은 문장, 결과에 대한 과도한 홍보가 대표적이다. 더 미묘한 신호로는 본문 서술의 수치가 표의 수치와 어긋나는 경우가 지목됐다. 실험을 다시 돌린 뒤 본문 숫자를 갱신하지 않아 생기는 불일치인데, 아무도 자기 논문을 다시 읽지 않는다는 방증이다. 1% 미만의 성능 향상을 여러 실행에 걸친 평균·표준편차 없이 SOTA라 주장하는 것, 인용으로 충분한 자리에 화려한 수식을 끼워 넣는 것, 부록에 있어야 할 절제(ablation)를 본문에 늘어놓는 것도 경고 신호다.
주목할 대목은 이들이 LLM 사용 자체를 반대하지 않는다는 점이다. 두 사람 모두 매일 Claude로 연구와 글쓰기를 하며, 이 글의 문헌 정리도 에이전트로 초안을 잡았다고 밝혔다. 차이는 검증에 있다. 에이전트가 찾아준 논문을 직접 읽고 원출처를 추적하며 재구성하고, 참고문헌은 자체 제작한 bib-audit 스킬로 감사한 뒤에도 Google Scholar나 IEEE·CVF 데이터베이스에서 한 건씩 수작업으로 확인한다. 수년간 축적한 Zotero 라이브러리의 실제 BibTeX을 복사해 쓰는 것도 방어선이다. 결국 문제는 도구가 아니라, 자기 산출물을 읽지 않고 제출하는 태도다. 저자가 자기 인용조차 확인하지 않았다면 심사자가 그 논문을 진지하게 볼 이유도 사라진다.
한국의 연구자와 엔지니어에게 이 기록이 주는 함의는 분명하다. 생성형 AI로 논문·보고서·기술 문서를 만드는 일이 일상이 된 만큼, 산출물의 신뢰성은 이제 생성 능력이 아니라 검증 절차에서 갈린다. 참고문헌 자동 감사, 표와 본문 수치의 교차 확인, 원출처 추적 같은 절차를 워크플로에 넣지 않으면 조작된 인용은 심사도 통과하고 정식 출판물에도 남는다. 다만 이 팀의 표본은 22편이라는 소규모이고 특정 학회·워크숍에 국한된 개인 경험이라는 한계가 있다. 그럼에도 대규모 감사들이 같은 방향을 가리키고 있다는 점에서, 검증되지 않은 AI 산출물이 학술과 산업 문서 전반의 신뢰 비용을 끌어올리고 있다는 경고만은 흘려듣기 어렵다.