"챗봇이 똑똑한 게 아니라 당신이 속은 거라면?"

"고객님, 그 제품은 30일 무조건 환불되고요, 의료보험도 100% 적용됩니다!" — 그런데 그런 규정, 애초에 존재하지 않았다면요?
— 챗봇은 모르면 침묵하지 않습니다. 자신 있게 지어냅니다.

요즘 쇼핑몰, 병원, 법률사무소 홈페이지에 챗봇 하나쯤은 다 붙어 있습니다. 문제는 이 챗봇들이 모르는 걸 모른다고 말하지 않는다는 겁니다. 오히려 세상에서 가장 자신감 넘치는 상담원처럼, 존재하지도 않는 환불 규정과 진료 시간, 법 조항을 술술 만들어냅니다.

이걸 우리는 '할루시네이션(환각)'이라 부릅니다. 그리고 마치 점쟁이가 누구에게나 들어맞을 법한 말을 던지듯, 챗봇도 그럴듯한 '콜드리딩식 헛소리'로 사람을 속입니다. 오늘은 비전공자도 만들 수 있는 '챗봇 거짓말 자동 탐지·사실검증 리포트 봇'으로 월 100만원을 버는 5단계를 실전으로 풀어드립니다.

왜 '검증 봇'이 돈이 되는가

챗봇을 만드는 회사는 넘쳐납니다. 하지만 "우리 챗봇이 거짓말을 안 한다는 걸 증명해달라"는 요구를 채워주는 사람은 거의 없습니다. 쇼핑몰은 잘못된 환불 안내로 소송당하고, 병원은 틀린 진료 정보로 민원에 시달리고, 법률사무소는 존재하지 않는 판례를 인용했다가 신뢰를 잃습니다.

즉, 챗봇 시장이 커질수록 '그 챗봇을 감시하는 봇'의 수요도 함께 커집니다. 백신을 파는 사람 옆에서 백신 검사기를 파는 셈이죠.

전체 그림: 검증 봇은 이렇게 작동합니다

5단계 실전 가이드

1단계 — 챗봇 답변을 모은다

고객사에 "챗봇 상담 로그를 CSV로 주세요"라고 요청하거나, 대표적인 질문 30~50개를 직접 챗봇에 던져 답변을 긁어옵니다. 엑셀 한 장이면 충분합니다. 여기서 중요한 건 실제 고객이 자주 묻는 질문을 확보하는 것입니다.

2단계 — 답변을 '검증 가능한 주장'으로 쪼갠다

챗봇 답변 한 문단에는 여러 개의 주장이 섞여 있습니다. AI에게 "이 답변에서 사실 여부를 확인할 수 있는 문장만 목록으로 뽑아줘"라고 시키면 됩니다. 예를 들어 "30일 환불 + 무료 반품 + 당일 배송"은 3개의 독립된 주장으로 분리됩니다.

3단계 — 공식 자료와 대조한다 (핵심)

여기가 돈의 핵심입니다. 고객사의 공식 문서(이용약관·진료안내·요금표)를 AI에게 '정답지'로 주고, 각 주장이 이 문서에 근거하는지 대조시킵니다. 근거가 없으면 그게 바로 '지어낸 말'입니다.

4단계 — 위험도 점수를 매긴다

판정 결과를 신뢰도 점수(0~100점)로 환산합니다. '거짓'은 크게 감점, '근거없음'은 중간 감점, '사실'은 유지. 이렇게 하면 고객사 대표가 숫자 하나로 "우리 챗봇이 몇 점짜리인지" 즉시 이해합니다. 사람은 신호등과 점수에 반응합니다.

5단계 — 자동 리포트로 발송한다

결과를 표와 그래프가 있는 PDF로 만들어 이메일로 자동 발송합니다. "이번 주 챗봇 신뢰도 72점, 고위험 답변 4건 발견" 이 한 줄이 매달 100만원을 정당화합니다.

어디에, 얼마에 파는가

특히 챗봇 외주 제작사가 최고의 고객입니다. 이들은 자기가 만든 챗봇을 스스로 검증하기 부담스러워하고, "제3자 검증 리포트"를 붙이면 자기 상품 가치가 올라가기 때문입니다. B2B2B 구조로 한 번에 여러 챗봇을 검증 대행하면 단가는 더 올라갑니다.

지금 시작하는 법

여기까지 읽고 "원리는 알겠는데 실제로 어떻게 연결하지?" 싶다면 정상입니다. 답변 수집 → AI 호출 → 결과 정리 → 자동 발송을 코드 몇 줄로 연결하는 감각만 익히면, 위 5단계는 하루 만에 뼈대가 완성됩니다.

비전공자가 가장 자주 막히는 지점 — API 연결, 문서 대조 프롬프트 설계, 자동화 스케줄링 —을 처음부터 손에 잡히게 다루는 것이 투더제이(TTJ) 코딩클래스 정규반입니다. 이론이 아니라 '오늘 만들어서 내일 파는' 실전형 프로젝트 중심으로, 이런 수익화 봇을 직접 완성하며 배웁니다. 챗봇을 만드는 사람은 많지만, 챗봇을 감시하는 사람은 아직 드뭅니다. 그 자리가 지금 비어 있습니다.

챗봇이 똑똑한 게 아니라, 검증하는 사람이 없었을 뿐입니다.
— 그 검증하는 사람이 당신이 되면, 그게 곧 월 100만원입니다.