겉보기에 하노버 공공정책연구소(Hanover Institute for Public Policy)는 이스라엘·팔레스타인 문제를 다루는 신생 싱크탱크처럼 보인다. "AIPAC은 선거에서 '다크 머니'를 쓰는가", "이스라엘은 가자에서 고의적 기아 작전을 벌이는가" 같은 질문에 각주와 목차, 표를 갖춘 보고서로 답한다. 그러나 이 기관은 실재하는 연구소가 아니다. 어떤 보고서에도 저자 이름이 없고, 웹페이지 하단의 작은 고지에는 이스라엘 정부광고청을 대신해 피로(Piro, Inc)라는 회사가 만들었다고 적혀 있다. 피로는 스파이크 리 감독의 영화 '인사이드 맨'을 제작한 대니얼 로젠버그가 공동 창업한 곳이다.
주목할 지점은 이 콘텐츠의 진짜 독자가 사람이 아니라는 데 있다. 피로는 자사 서비스를 "LLM이 신뢰도를 평가하는 방식에 맞춰 설계된 콘텐츠"라고 소개하며 이를 'AI 스토리 최적화'라 부른다. 업계 일각에서는 같은 행위를 'LLM 포이즈닝(poisoning)'이라 부른다. 즉 검색과 챗봇 응답에 인용될 것을 전제로, 클로드나 제미나이 같은 모델이 '믿을 만하다'고 판단하도록 형식과 어조를 역설계한 문서를 대량으로 찍어내는 방식이다. 하노버 연구소는 8월 6일 발행을 시작해 열흘 남짓 만에 100건이 넘는 보고서를 쏟아냈다.
사람이 아니라 모델을 노린 설계
보고서들은 대체로 공식화된 틀을 따른다. "1948년 팔레스타인인의 실향은 무엇이 원인이었나", "가자 지구의 현재 상황은 어떤가"처럼 누군가 챗봇에 실제로 던질 법한 순진한 질문으로 시작한다. 중립적 어조로 통계를 제시하고, 특정 주장에 의문을 달며, 상당수는 결말을 반유대주의 확산과 연결 짓는다. 예컨대 'IDF는 세계에서 가장 도덕적인 군대인가'라는 글은 이스라엘 유대인의 47%가 그렇게 믿는다는 2022년 여론조사를 인용하고, 다른 보고서는 가자의 물·기반시설 90%가 손상됐다는 유니세프의 주장에 의문을 제기한다.
허위정보 추적업체 뉴스가드의 분석가 앨리스 리는 이 사이트들이 검색엔진이나 챗봇을 통해 분쟁에 관심을 가진 미국 독자에게 닿도록 만들어졌다고 지적한다. "LLM은 구체적 통계와 데이터, 강한 인용과 출처를 선호하는데 이 글들은 그 요소를 모두 갖췄다"는 것이다. 그는 "평범한 이름, 사이트 레이아웃, 적·백·청 색 배열까지 전형적인 신뢰할 만한 미국 싱크탱크를 완벽하게 흉내 냈다"고 덧붙였다. 실제로 RS가 무작위 12개 기사를 GPTZero로 검사한 결과 11건이 '높은 신뢰도'로, 1건이 '중간 신뢰도'로 AI 작성으로 분류됐다.
자금과 위장의 구조
피로는 이 작업으로 이스라엘 정부로부터 90만 달러를 받았고, 다른 여러 하청업체와 마찬가지로 프랑스 홍보 대기업 하바스 미디어를 거쳐 재하청 형태로 계약이 이뤄졌다. 하노버 연구소는 인용 자료가 "동료 심사를 거친 학술 자료"라고 주장하지만 실제로는 이스라엘 방위군(IDF)과 외무부 같은 정부 출처를 자주 인용한다. 흥미롭게도 이 보고서들이 늘 정부 서사와 일치하지는 않는다. 한 보고서는 대학의 반유대주의 사건을 외국 자금 탓으로 돌리는 설명이 "근거가 약하고 예외가 많다"고 평가하는데, 이는 네타냐후 총리가 밀어온 주장과 배치된다. 이런 미세한 어긋남 자체가 '중립적 분석'이라는 인상을 강화하는 장치일 수 있다.
이는 고립된 사례가 아니다. 이스라엘은 트럼프 캠프 선거대책본부장 출신 브래드 파스케일과 4,650만 달러 규모 계약을 맺고 챗봇에 영향을 주도록 설계된 친이스라엘 웹사이트를 만들게 한 바 있다. 지난달 드롭사이트 조사에 따르면 마이크로소프트 코파일럿과 구글 제미나이를 비롯한 여러 챗봇이 그 사이트들의 데이터를 학습했고, 일부는 배후를 표시하지 않은 채 이를 인용했다. 로젠버그는 미 법무부에 제출한 계약서에 AI에 영향을 주려는 목적을 명시하지 않았으며, 폴리티코에는 "정확하고 출처가 있는 사실을 공적 기록에 넣는 일"이라고 해명했다. 다만 그는 지난달 링크드인에 챗GPT·제미나이·퍼플렉시티의 답변이 만들어지는 방식을 "몇 달간 역설계했다"며 챗봇 영향력을 광고하는 글을 올렸다.
실무자가 읽어야 할 함의
한국의 서비스 개발자와 데이터 담당자에게 이 사건은 RAG와 검색 증강 파이프라인의 취약점을 구체적으로 보여준다. 모델이 신뢰도의 대리 지표로 삼는 각주, 표, 학술적 어조, 도메인 형식은 사실성과 상관없이 위조가 가능하다. 즉 형식적 신뢰 신호에 가중치를 두는 검색·랭킹 로직은 그대로 조작의 통로가 된다. 대응책으로는 출처의 발행 주체와 소유 관계 검증, 저자 부재나 단기간 대량 발행 같은 이상 징후 탐지, 정부·이해당사자 자금 표기의 추적, 그리고 단일 출처군에 대한 인용 편중을 걸러내는 다양성 제약 등을 파이프라인에 넣을 필요가 있다.
다만 이 보도의 한계도 분명히 해둘 필요가 있다. GPTZero 같은 AI 탐지 도구는 낮은 오탐률을 표방하지만 완벽하지 않으며, 검사 대상도 12개 표본에 그친다. 특정 챗봇이 이 콘텐츠를 실제로 얼마나 자주, 어떤 질의에서 인용하는지에 대한 정밀한 측정치는 제시되지 않았다. 그럼에도 '사람을 설득하는 콘텐츠'에서 '모델의 판단 기준을 겨냥한 콘텐츠'로 영향력 공작의 초점이 옮겨가고 있다는 신호는 충분히 읽어낼 수 있다. 검색 결과에 노출되는 것을 넘어 생성형 답변의 근거로 채택되는 것이 새로운 목표가 된 이상, LLM을 다루는 조직은 입력 데이터의 출처 신뢰성을 방어의 최전선으로 다뤄야 한다.