AI 슬롭의 시대, 왜 '잘 만든 논픽션 책'이 해독제일까

'AI 슬롭'의 홍수 속에서

요즘 검색을 하다 보면 어딘가 익숙한 냄새가 나는 글들을 자주 만나요. 문장은 매끈한데 알맹이가 없고, 어디서 본 얘기를 그럴듯하게 재배열한 것 같은 콘텐츠들이요. 이런 걸 요즘 'AI 슬롭(slop)'이라고 불러요. 슬롭은 원래 가축에게 주는 꿀꿀이죽이라는 뜻인데, 대량 생산된 저품질 AI 콘텐츠를 가리키는 말로 굳어졌죠. 검색 결과, 유튜브, 전자책 마켓까지 슬롭이 스며들지 않은 곳이 없는데요. 역사학자이자 Res Obscura라는 뉴스레터를 운영하는 벤저민 브린이 여기에 흥미로운 관점을 던졌어요. "잘 만든 논픽션 책이야말로 AI 슬롭의 정반대에 있는 물건"이라는 거예요.

왜 하필 '책'일까

에세이의 핵심 논리는 이래요. 좋은 논픽션 책은 슬롭과 생산 방식 자체가 달라요. 저자는 수년간 1차 사료(원본 문서, 인터뷰, 실험 데이터 같은 것)를 뒤지고, 아직 세상에 정리되지 않은 지식을 하나의 구조로 엮어내요. 편집자와 팩트체커가 원고를 몇 번씩 담금질하고, 무엇보다 저자가 자기 이름을 걸고 내용을 책임져요. 반면 LLM이 만드는 콘텐츠는 본질적으로 이미 웹에 존재하는 텍스트의 통계적 재조합이에요. 그럴듯한 평균값은 잘 뽑아내지만, 세상에 없던 지식을 발굴해서 추가하지는 못하죠. 책은 지식의 '생산'이고 슬롭은 지식의 '희석'이라는 거예요.

여기서 재미있는 역설이 하나 나와요. 정작 LLM의 성능을 떠받치는 학습 데이터에서 가장 값진 부분이 바로 이런 고품질 서적이라는 거예요. AI 회사들이 출판사와 데이터 라이선스 계약을 맺으려고 줄을 서는 이유이기도 하고요. 그런데 슬롭이 웹을 뒤덮으면 다음 세대 모델은 슬롭을 학습하게 되고, 그 모델이 다시 슬롭을 만드는 되먹임 고리가 생겨요. 연구자들이 '모델 붕괴(model collapse)'라고 부르는 시나리오인데, AI가 AI의 부산물을 먹고 점점 흐릿해지는 그림이죠. 그럴수록 사람이 밑바닥부터 캐낸 원본 지식의 희소가치는 오히려 올라간다는 게 이 글의 통찰이에요.

업계 맥락

이 문제는 이미 플랫폼들의 골칫거리예요. 검색 엔진은 AI 생성 스팸 사이트와 전쟁 중이고, 아마존 킨들 스토어는 AI 양산 전자책 때문에 등록 정책을 손봤고, 스택오버플로는 일찌감치 AI 생성 답변을 규제했죠. 한편에서는 뉴스·출판업계와 AI 기업 간의 대규모 라이선스 거래가 이어지면서 "고품질 텍스트는 이제 전략 자원"이라는 인식이 자리 잡고 있어요. 콘텐츠의 양은 폭발하는데 신뢰할 수 있는 콘텐츠의 비율은 떨어지는, 묘한 시대인 거예요.

우리에게 주는 시사점

개발자에게도 남 얘기가 아니에요. 첫째, 정보 식단의 문제. 기술 학습에서도 재탕 블로그 열 편보다 공식 문서와 제대로 쓰인 기술서 한 권이 나은 경우가 많잖아요. 슬롭의 시대에는 '무엇을 읽을지 고르는 능력'이 실력의 일부가 돼요. 둘째, 글 쓰는 개발자에게 주는 힌트. 직접 삽질한 경험, 실제 장애를 겪고 얻은 교훈, 프로덕션에서만 알 수 있는 디테일 — 이런 1차 경험이 담긴 글은 AI가 흉내 낼 수 없는 원본 지식이라 가치가 계속 올라가요. 셋째, AI 제품을 만드는 사람이라면 학습·검색 데이터의 품질 관리가 곧 제품 품질이라는 것. "쓰레기가 들어가면 쓰레기가 나온다"는 오래된 격언이 그 어느 때보다 무겁게 다가오는 시점이죠.

정리하면, 생성이 공짜가 된 시대에 진짜 희소한 것은 사람이 시간을 갈아 넣어 만든 원본 지식이라는 이야기예요. 여러분의 정보 식단은 어떤가요? 슬롭을 거르기 위한 나만의 기준이 있다면 나눠주세요.