무슨 일이 벌어지고 있나요?
위키백과(Wikipedia)에서는 지금 조용하지만 꽤 치열한 싸움이 벌어지고 있어요. 바로 AI가 생성한 글을 찾아내고 정리하는 작업이에요. 그 중심에는 영어 위키백과 편집자들이 모인 자원봉사 그룹, WikiProject AI Cleanup이 있어요.
챗GPT 같은 대형 언어 모델(LLM)이 대중화되면서 누구나 몇 초 만에 그럴듯한 백과사전 문체의 글을 뽑아낼 수 있게 됐잖아요. 문제는 그럴듯한 것과 정확한 게 전혀 다른 이야기라는 거예요. 존재하지 않는 논문을 출처로 달거나, 사실과 다른 내용을 자신만만하게 쓰는 경우가 많거든요. 누구나 편집할 수 있다는 위키백과의 강점이 여기서는 그대로 약점이 되는 셈이에요.
WikiProject AI Cleanup은 뭘 하나요?
이 프로젝트는 2023년 말쯤 영어 위키백과 편집자들이 모여 시작했어요. 흥미로운 점은 목표가 'AI 사용 금지'가 아니라는 거예요. 이들이 지키려는 건 위키백과의 오래된 원칙인 검증 가능성이에요. 모든 내용은 믿을 만한 출처로 확인할 수 있어야 한다는 거죠. AI가 썼든 사람이 썼든 출처가 엉터리면 고치거나 지운다는 게 기본 태도예요.
그 과정에서 편집자들이 정리한 게 'AI 글쓰기의 징후(Signs of AI writing)'라는 가이드 문서예요. 실제로 발견한 패턴을 모은 일종의 체크리스트인데요, 예를 들면 이런 것들이에요.
- 특정 단어와 표현의 과다 사용: 'delve', 'tapestry', 'testament', 'pivotal' 같은 단어나 '풍부한 문화유산' 같은 상투적인 칭찬
- 홍보성 말투: 백과사전답지 않게 대상을 과하게 띄워주는 문장
- 대화의 흔적: 'Certainly! Here is...'나 '도움이 되었으면 좋겠어요' 같은 챗봇 응답이 그대로 붙어 있는 경우
- 포맷 실수: 위키 문법 대신 마크다운의
굵게나##제목이 섞여 있는 경우 - 가짜 출처: 존재하지 않는 DOI나 ISBN, 또는 URL에
utm_source=chatgpt.com같은 꼬리표가 남아 있는 경우 - 출처와 링크는 반드시 직접 열어보기: AI가 붙인 참고 링크나 라이브러리 함수명이 실제로 있는지 확인하는 것만으로도 사고를 크게 줄일 수 있어요.
- 'AI로 썼나'보다 '맞는 내용인가'를 리뷰하기: 위키백과처럼 판단 기준을 도구가 아니라 검증 가능성에 두면 팀 안의 불필요한 갈등도 줄어요.
- 팀 문서 가이드에 AI 사용 원칙 넣기: 써도 되지만 검토한 사람이 책임진다는 원칙 하나만 있어도 문서 품질이 달라져요.
특히 마지막 항목이 핵심이에요. 말투는 우연히 비슷할 수 있지만, 출처를 찾아봤는데 없는 논문이라면 그건 명백한 문제거든요.
'AI 탐지기'를 쓰면 되지 않나요?
좋은 질문인데요, 편집자들은 AI 탐지 도구를 별로 믿지 않아요. 탐지기는 사람이 쓴 글을 AI가 썼다고 오판하기도 하고, 조금만 다듬은 AI 글은 놓치기도 하거든요. 그래서 가이드에서도 이 징후들은 증거가 아니라 단서일 뿐이라고 분명히 말해요. 사람도 'pivotal' 같은 단어를 쓰니까요. 결국 마지막 판단은 출처를 직접 확인하는 사람의 몫이에요.
규칙도 점점 구체적으로 바뀌고 있어요. 영어 위키백과는 2025년에, 사람이 검토하지 않은 게 명백한 LLM 생성 문서를 빠르게 삭제할 수 있는 기준을 마련했어요. 같은 해 위키미디어 재단이 문서 상단에 AI 요약을 붙이는 실험을 하려다가 편집자 커뮤니티의 거센 반발로 중단한 일도 있었죠. 기술보다 신뢰를 우선한 결정이었다고 볼 수 있어요.
업계 흐름에서 보면
위키백과만 겪는 문제가 아니에요. 스택 오버플로는 챗GPT가 공개된 직후인 2022년 말에 AI 생성 답변을 금지했고, curl 같은 오픈소스 프로젝트는 AI가 지어낸 엉터리 보안 취약점 리포트에 시달리고 있어요. Gentoo나 NetBSD처럼 AI가 생성한 코드 기여를 막는 정책을 둔 프로젝트도 있고요.
더 큰 연결 고리도 있어요. 위키백과는 LLM 학습 데이터의 핵심 재료 중 하나예요. AI가 쓴 부정확한 글이 위키백과에 쌓이고 그걸 다음 세대 모델이 다시 학습하면 오류가 점점 증폭될 수 있어요. 연구자들이 '모델 붕괴(model collapse)'라고 부르는 현상이에요. 위키백과 편집자들의 청소 작업이 사실상 AI 생태계 전체의 수질 관리를 맡고 있는 셈이죠.
한국 개발자에게 주는 시사점
이 이야기는 우리 일터에도 그대로 적용돼요. 사내 위키, API 문서, 기술 블로그, PR 설명까지 AI로 쓰는 일이 흔해졌잖아요. 바로 써먹을 만한 습관을 몇 가지 정리해 보면 이래요.
마무리
한 줄 정리: 위키백과의 AI 정리 작업은 'AI를 막는 일'이 아니라 '검증 가능한 지식'을 지키는 일이고, 이건 모든 개발 문서에도 똑같이 필요한 태도예요.
여러분 팀에서는 AI로 작성된 문서나 코드를 어떤 기준으로 리뷰하고 계신가요? AI를 썼다면 밝혀야 한다는 규칙이 필요하다고 보시나요, 아니면 결과물이 정확한지만 보면 충분하다고 생각하시나요?
🔗 출처: Hacker News