무슨 일이 있었나
워싱턴포스트 보도에 따르면, 이란과 연계된 영향력 공작 세력이 ChatGPT로 기사를 만들어 실제 미국 매체에 싣는 데까지 성공했다고 해요. 영향력 공작이 뭐냐면, 정체를 숨긴 채 여론을 특정 방향으로 몰아가는 선전 활동이에요. 가짜 뉴스 사이트를 직접 차려서 퍼뜨리던 수준을 넘어, 독자들이 믿고 읽는 진짜 언론의 지면을 빌렸다는 점에서 한 단계 더 나아간 사례예요.
AI로 만든 선전물 자체는 새로운 얘기가 아니에요. 이번 사건이 의미 있는 건 유통 경로가 달라졌기 때문이에요.
이전 사례들과 뭐가 다르냐면
OpenAI는 2024년부터 자사 모델을 악용한 은밀한 영향력 공작을 적발하고 차단한 사례를 정기적으로 보고서로 내고 있어요. 2024년 8월에는 미국 대선 관련 콘텐츠를 만들던 이란 연계 공작 ‘Storm-2035’의 계정들을 차단했다고 밝혔고요. 당시 이 조직은 진보 성향, 보수 성향 뉴스 사이트처럼 보이는 가짜 웹사이트를 만들어서 AI로 쓴 기사를 올렸어요. 그런데 이런 가짜 사이트는 실제로 읽는 사람이 거의 없어서 파급력은 미미했다는 평가가 많았어요.
이번 사례의 핵심은 정보 세탁이에요. 이게 뭐냐면, 출처가 의심스러운 내용을 신뢰받는 매체에 한 번 거치게 해서 ‘믿을 만한 정보’로 둔갑시키는 거예요. 돈세탁이 검은돈을 여러 계좌에 돌려서 깨끗해 보이게 만드는 것과 같은 원리죠. 진짜 언론사 이름이 붙는 순간 그 글은 소셜미디어에서 인용되고, 검색 결과 상위에 뜨고, 다른 AI 모델의 학습 데이터나 검색 기반 답변의 근거로 쓰일 수도 있어요.
AI가 바꾼 건 ‘글쓰기 비용’이에요
예전에는 해외 공작 조직이 영어권 매체를 노리려면 원어민 수준의 작가가 필요했어요. 어색한 문법이나 표현이 정체를 드러내는 단서가 됐거든요. 그래서 문장의 품질 자체가 일종의 진입 장벽 역할을 했어요.
LLM은 이 장벽을 거의 없애버렸어요. 자연스러운 영어로, 특정 매체의 문체에 맞춰서, 수십 편의 글을 빠르게 뽑아낼 수 있으니까요. 편집자가 원고 하나만 보고 AI로 쓴 공작용 글인지 가려내기는 정말 어려워요. 겉으로 보면 그냥 무난하게 잘 쓴 기고문이니까요.
그럼 AI 탐지기로 잡으면 되지 않나요?
아쉽게도 쉽지 않아요. OpenAI는 2023년에 자체 AI 텍스트 판별기를 내놨다가 정확도가 낮다는 이유로 몇 달 만에 서비스를 접었어요. 텍스트에는 이미지보다 흔적이 훨씬 적게 남고, 사람이 조금만 다듬어도 판별이 거의 불가능해지거든요. 구글이 SynthID Text 같은 텍스트 워터마크 기술을 오픈소스로 공개하긴 했지만, 공격자가 워터마크를 넣지 않는 모델을 쓰면 소용이 없어요.
그래서 실제로 효과가 있는 건 글이 아니라 행위를 보는 탐지예요. 같은 인프라에서 여러 필명이 활동하는지, 기고자 신원이 실제로 확인되는지, 비슷한 논조의 글이 짧은 기간에 여러 매체로 동시다발적으로 들어오는지 같은 패턴을 보는 거죠. 모델 제공사들이 공작 계정을 잡아내는 방식도 대부분 이런 사용 패턴 분석이에요.
한국 개발자에게 주는 시사점
남의 나라 언론 얘기로만 볼 일이 아니에요. 한국도 2018년에 매크로 프로그램으로 포털 댓글을 조작한 사건을 겪었잖아요. 그때 자동화한 게 공감 클릭이었다면, 이제는 그럴듯한 본문 자체를 자동으로 만들 수 있어요.
기고·리뷰·커뮤니티 같은 UGC(사용자가 직접 만드는 콘텐츠) 플랫폼을 만드는 개발자라면 이런 걸 고민해볼 만해요. 첫째, 콘텐츠 판별보다는 계정과 행위 기반 신호(가입 경로, 디바이스, 활동 패턴, 계정 사이의 연결 고리)에 투자하는 게 효과적이에요. 둘째, 외부 기고 시스템이 있다면 기고자 신원 확인 절차를 다시 점검해봐야 해요. 셋째, LLM API로 서비스를 만든다면 우리 서비스가 공작 도구로 쓰이지 않도록 대량 생성 패턴을 모니터링하고 이용 정책을 갖춰두는 게 좋아요.
마무리
핵심 한 줄: AI가 가짜 글을 쓰는 비용을 낮춰버려서, 이제 싸움은 그 글이 퍼지는 경로에서 벌어지고 있어요.
여러분이 운영하거나 개발하는 서비스라면 AI로 쓴 조직적 게시물을 어떻게 걸러내시겠어요? 콘텐츠 판별과 행위 기반 탐지 중에 어디에 더 투자해야 할까요?
🔗 출처: Hacker News