'왜요?'가 십만 번 쏟아질 때
혹시 어린아이와 대화해본 적 있다면 알 거예요. '왜요?'가 끝이 없어요. 하늘은 왜 파래요? 빛이 흩어져서. 빛은 왜 흩어져요? 공기 분자에 부딪혀서. 공기는 왜...? 이 무한히 이어지는 질문 사슬을, 중국의 유명한 어린이 백과사전 제목을 빌려 '십만 개의 왜(十万个为什么)'라고 부르기도 해요. 보안 연구자로 유명한 lcamtuf(미하우 자레프스키, afl 퍼저와 여러 보안 명저의 저자)이 'The 100,000 Whys of AI'라는 글에서 바로 이 끝없는 호기심과 AI의 관계를 짚었어요.
핵심 통찰은 이거예요. 사람은 이 끝없는 '왜'에 답해주다 금방 지쳐요. 부모도, 선생님도, 전문가도 어느 순간 '그냥 그런 거야'라고 끊게 되죠. 그런데 LLM(대규모 언어 모델, ChatGPT 같은 AI)은 지치지 않아요. 같은 주제를 백 번 더 파고들어도, 한 단계 더 깊은 '왜'를 던져도 차분하게 받아줘요. 인류 역사상 처음으로, 무한히 인내심 있는 '설명해주는 존재'가 누구에게나 생긴 셈이에요. 이게 생각보다 큰 변화거든요.
왜 LLM이 이걸 잘할까
LLM이 끝없는 후속 질문에 강한 이유는 작동 방식에 있어요. 이게 뭐냐면, LLM은 정답을 어딘가 데이터베이스에서 찾아오는 게 아니라, 지금까지 오간 대화 전체(맥락)를 보고 '다음에 올 가장 그럴듯한 말'을 한 조각씩 이어 붙이는 식으로 답을 만들어요. 그래서 '방금 설명에서 이 부분만 더 쉽게', '초등학생 수준으로', '비유를 들어서' 같은 요청에도 유연하게 눈높이를 바꿔가며 답할 수 있는 거예요. 인간 가정교사 한 명을 옆에 붙여놓고 무한히 질문하는 경험에 가까워진 거죠.
공짜 점심은 아니에요
그런데 함정이 있어요. 바로 '환각(hallucination)'이에요. LLM은 모르는 걸 모른다고 하기보다, 그럴듯한 답을 자신 있게 '지어내는' 경향이 있거든요. 앞서 말했듯 LLM은 사실을 검증하는 게 아니라 '그럴듯한 말'을 잇는 기계라서 그래요. 더 무서운 건, '왜'를 깊이 파고들수록 인간 지식의 변두리로 들어가게 되고, 거기서 모델은 더 자주, 더 자신만만하게 틀린다는 점이에요. 그리고 정작 호기심으로 질문하는 사람(특히 아이나 입문자)은 그 답이 맞는지 틀린지 판단할 배경지식이 없어요. 부드럽고 친절한 말투가 오히려 틀린 답에 신뢰를 입혀버리는 거죠. lcamtuf의 글은 이 양면성, 즉 '경이로운 도구이면서 동시에 조용히 위험한 도구'라는 점을 솔직하게 마주해요.
업계 맥락에서
이 주제는 교육 분야에서 가장 뜨겁게 다뤄지고 있어요. 칸 아카데미의 'Khanmigo'처럼 LLM을 1:1 개인 교사로 쓰려는 시도가 대표적인데, 핵심 고민이 항상 같아요. '어떻게 하면 환각을 줄이고, 학습자가 답을 무비판적으로 삼키지 않게 만들 것인가'예요. 그래서 외부 자료를 함께 참조해 답하게 하는 RAG 같은 기법이나, 답의 근거(출처)를 함께 제시하게 하는 방향으로 기술이 발전하고 있어요.
한국 개발자에게
우리도 이미 모르는 개념을 LLM에게 물어보며 학습하는 시대에 살고 있죠. lcamtuf의 글이 주는 실용적 교훈은 분명해요. LLM은 '왜'를 무한히 던지기에 최고의 상대지만, 그 답을 최종 진실로 받아들이면 안 된다는 거예요. 특히 익숙하지 않은 분야일수록 답을 공식 문서나 1차 자료로 한 번 더 검증하는 습관이 필요해요. 또 우리가 학습 도구나 챗봇 제품을 만든다면, 답의 출처를 함께 보여주거나 '확실하지 않음'을 표시하는 장치를 넣는 게 사용자 신뢰를 지키는 길이고요.
호기심을 마음껏 풀어주는 도구가 생긴 건 분명 축복인데, 그 축복을 잘 쓰려면 '비판적으로 읽는 힘'이 어느 때보다 중요해진 거예요.
여러분은 LLM에게 끝까지 '왜'를 파고들어 본 적 있나요? 그 답을 어디까지 믿고, 어디서부터 의심하시나요?
🔗 출처: Hacker News