TECH 으로 돌아가기
TECH HACKER NEWS 8분 읽기 118 READS

AI 가짜 책이 서점을 채울 때, 작가와 독자 사이의 신뢰는 어떻게 무너지나

무슨 이야기인가요

미국 시사지 디 애틀랜틱(The Atlantic)이 'AI가 작가와 독자 사이의 신뢰를 무너뜨리고 있다'는 제목의 글을 실었어요. 주소에 'ai-literary-scams-amazon'이라고 적혀 있듯이, 아마존 같은 서점 플랫폼에서 벌어지는 AI 출판 사기를 다룬 글이에요. 미리 말씀드리면 이 글은 원문 전문을 옮긴 요약이 아니라, 제목이 던진 주제를 그동안 알려진 사례와 배경지식으로 풀어 쓴 해설이에요. 원문의 구체적인 논지는 링크에서 직접 확인해 주세요.

책 이야기를 왜 개발자 커뮤니티에서 하냐고요? 이 문제의 뿌리가 '글을 만드는 비용이 0에 가까워지면 플랫폼은 어떻게 망가지는가'라는 아주 기술적인 질문이거든요. 우리가 매일 만지는 검색, 추천, 리뷰, 오픈소스 기여 시스템이 전부 같은 압력을 받고 있어요.

그동안 어떤 일들이 있었나

가장 널리 알려진 사례는 2023년 출판 전문가 제인 프리드먼의 일이에요. 자기가 쓰지도 않은 책들이 자기 이름을 달고 아마존에서 팔리고 있는 걸 발견한 거죠. AI로 만든 것으로 보이는 원고에 실존 작가의 이름을 붙여 파는 수법이었어요. 처음엔 삭제 요청이 잘 받아들여지지 않다가, 일이 공론화된 뒤에야 책이 내려갔어요.

비슷한 일은 계속 이어졌어요. 인기 신간이 나오면 며칠 만에 '요약본', '워크북', '저자 전기' 같은 이름을 단 책이 바로 옆에 올라오는 식이에요. AI가 쓴 것으로 의심되는 버섯 채집 안내서가 팔려서, 틀린 정보가 사람 건강을 위협할 수 있다는 경고가 나오기도 했고요. 2025년에는 판매 중인 소설 본문에 AI 챗봇의 답변 문구가 지워지지 않은 채 남아 있는 게 독자들 눈에 띄었어요. 같은 해 미국의 한 신문 부록에는 실존 작가 이름에 세상에 없는 책 제목을 붙인 여름 추천 도서 목록이 실리기도 했죠. SF 잡지 클락스월드는 AI로 쓴 투고가 쏟아져서 한때 접수 창구를 닫아야 했어요.

아마존도 손을 놓고 있던 건 아니에요. 2023년에 자가출판 서비스 KDP에서 AI 생성 콘텐츠 여부를 신고하게 하고, 하루에 등록할 수 있는 책을 3권으로 제한했어요. 다만 자진 신고와 속도 제한에 기대는 방식이라 한계가 뚜렷해요.

왜 신뢰가 무너질까: '레몬 시장' 문제

경제학에 '레몬 시장'이라는 개념이 있어요. 이게 뭐냐면, 사는 사람이 좋은 물건과 나쁜 물건을 구분할 수 없을 때 벌어지는 일을 말해요. 중고차 시장에서 멀쩡한 차와 하자 있는 차를 겉으로 구별할 수 없으면, 구매자는 일단 다 의심하고 값을 깎으려 하죠. 그러면 좋은 차를 가진 사람이 먼저 시장을 떠나요.

책 시장에도 원래는 신호가 있었어요. 책 한 권을 쓰려면 몇 달의 노동이 필요했고, 그 비용 자체가 '최소한 누군가 공들였다'는 보증 역할을 했거든요. 그런데 LLM이 그 비용을 지워 버렸어요. 표지, 저자 소개, 리뷰까지 전부 싸게 만들어 낼 수 있게 됐고요.

플랫폼 구조도 한몫해요. 추천 알고리즘은 대체로 새로 올라온 것과 많이 클릭되는 것을 밀어 주도록 만들어져 있어서, 하루에도 수없이 찍어 낼 수 있는 쪽이 노출 경쟁에서 유리해져요. 스팸 메일과 싸우던 시절의 교훈이 그대로 적용되는 셈이에요. 보내는 비용이 0이면, 걸러 내는 비용은 받는 쪽이 떠안게 돼요.

더 아픈 건 의심이 양쪽으로 번진다는 점이에요. 독자는 모르는 작가의 책을 의심하고, 진짜 작가는 'AI로 쓴 거 아니냐'는 의심을 받아요. AI 탐지기가 해결해 주면 좋겠지만, 탐지기는 사람이 쓴 글을 AI로 잘못 판정하는 오탐이 계속 문제가 돼 왔어요. OpenAI조차 2023년에 자사 AI 텍스트 판별기를 정확도가 낮다는 이유로 내렸을 정도예요.

업계의 대응: 탐지보다 '출처 증명'

그래서 흐름은 '가짜를 잡아내기'에서 '진짜임을 증명하기'로 옮겨 가고 있어요. 미국 작가조합은 사람이 쓴 책에 붙이는 'Human Authored' 인증을 시작했어요. 이미지 쪽에는 누가 어떤 도구로 만들었는지 서명된 기록을 파일에 붙이는 C2PA 표준이 있고, 구글은 모델이 단어를 고를 때 통계적 흔적을 심는 SynthID Text 워터마크를 공개했어요.

다만 어느 쪽도 완벽하지 않아요. 탐지는 모델이 좋아질수록 불리해지는 군비경쟁이고, 워터마크는 다른 모델로 한 번 바꿔 쓰면 흐려져요. 출처 증명은 정직한 사람만 참여한다는 한계가 있고요. 결국 남는 건 플랫폼의 설계와 의지예요. 등록 속도를 늦추고, 본인 확인을 하고, 신고가 들어오면 빨리 내리는 지루한 운영 말이에요.

한국 개발자에게 주는 시사점

이건 남의 동네 이야기가 아니에요. 오픈소스에서는 curl 같은 프로젝트가 AI가 만든 그럴듯한 가짜 보안 리포트 때문에 메인테이너 시간이 낭비된다고 여러 번 호소했어요. Stack Overflow는 2022년 말에 일찌감치 ChatGPT가 생성한 답변을 금지했고요. 기술 블로그, 패키지 문서, 기술 서적도 똑같은 압력 아래 있어요.

사용자가 콘텐츠를 올리는 서비스를 만든다면 '생성 비용은 0'이라고 가정하고 설계하는 게 좋아요. 계정당 등록 속도 제한, 시간이 쌓여야 얻는 평판, 실제 구매자만 쓸 수 있는 리뷰처럼 위조하려면 비용이 드는 신호를 섞는 거죠. 국내 웹소설, 전자책, 블로그 플랫폼도 같은 숙제를 안고 있어요.

개인으로서는 AI를 쓰는 것 자체가 문제가 아니라는 점을 기억하면 좋겠어요. 문제는 검증 없이 내보내는 것, 그리고 숨기는 것이에요. 내 이름으로 나가는 글과 코드는 내가 읽고 확인했다는 사실이 곧 신뢰의 근거가 되니까요.

마무리

한 줄로 정리하면, 글을 만드는 비용이 사라진 자리에는 신뢰를 만드는 비용이 새로 들어서야 해요. 여러분은 어떻게 생각하세요? AI 사용 여부 표시를 의무로 해야 할까요, 아니면 사람이 썼다는 인증을 붙이는 쪽이 현실적일까요? 여러분이 운영하는 서비스라면 어떤 신호를 믿으시겠어요?


🔗 출처: Hacker News

SOURCE · HACKER NEWS
원문 전체 보기 → https://www.theatlantic.com/books/2026/11/ai-literary-scams-...
SHARE
NEXT · CHOOSE

변화를 읽었다면,
내가 만들 수익 구조를 고릅니다.

정보를 더 모으는 데서 멈추지 않고, 광고·외주·판매·중개·구독 중 내 상황에 맞는 출발점을 정해보세요.

21가지 수익 구조 살펴보기 →
처리 중...