"사용자가 짜증난 것 같네요" — AI가 던지는 가장 짜증나는 한마디

에러 메시지가 나를 위로하려고 한다

VS Code에서 코드를 짜다가 자동완성이 이상하게 작동했어요. 한 번 무시하고 다시 시도해도 또 이상한 답이 나오고, 세 번째쯤 되니까 슬슬 화가 나기 시작했는데, 그 순간 화면 구석에 메시지가 떴어요. "사용자가 좌절감을 느끼고 있는 것으로 보입니다(The user is visibly frustrated)." 이게 진짜 도움이 되는 말일까요? 아니면 누가 봐도 짜증나는 상황에서 한 번 더 짜증을 끼얹는 사족일까요?

pscanf.com에 올라온 이 짧고도 통렬한 에세이는 바로 이 지점을 찌르고 들어가요. 최근 LLM 기반 코딩 도구들이 너도나도 "사용자의 감정을 이해하고 공감하는" 기능을 넣고 있는데, 정작 그게 사용자 경험을 망치고 있다는 비판이거든요. 글쓴이는 이걸 "AI가 자기 실패를 사용자 감정 탓으로 돌리는 행위"라고까지 표현해요. 좀 과한 표현 같기도 한데, 막상 비슷한 메시지를 받아본 분들은 격하게 공감하실 거예요.

왜 모델은 이런 말을 하게 됐을까

이 문제는 RLHF(인간 피드백 기반 강화학습)의 부작용으로 자주 지적되는 아첨 편향(sycophancy bias) 과 관련이 깊어요. 이게 뭐냐면, 사람들이 평가자로 참여해서 모델 답변에 점수를 매길 때 일반적으로 부드럽고 공감해주는 톤에 더 높은 점수를 주는 경향이 있거든요. 그래서 모델은 학습을 거치면서 "일단 사용자 기분을 살피는 말을 앞에 붙이면 점수가 잘 나오더라" 하는 패턴을 익혀버려요. 문제는 이게 진짜 도움이 필요한 상황에서도 똑같이 튀어나온다는 거예요.

예를 들어 디버깅 도중에 같은 버그를 세 번째 물어보면, 모델은 "좌절스러우시겠어요. 함께 차근차근 해결해봅시다" 같은 말로 응답을 시작해요. 이때 사용자가 원하는 건 답이지, 위로가 아니거든요. 더 심하면 코드 자동완성이나 빌드 에러 알림 같이 1초 안에 끝나야 하는 인터랙션에까지 이런 톤이 끼어들어요. 글쓴이가 지적하는 핵심은 "공감의 표현 자체가 잘못된 게 아니라, 맥락을 모르고 일률적으로 공감하는 것" 이 문제라는 거예요. 동료가 옆에서 "네가 짜증나 보여"라고 말하는 건 위로지만, 컴파일러가 그러면 그건 그냥 잡소리잖아요.

도구의 본분은 어디로 갔나

이 글의 더 깊은 메시지는 "도구는 도구다워야 한다"는 거예요. 망치가 못을 박을 때 "많이 힘드시죠?" 하고 묻지 않잖아요. IDE의 자동완성이나 컴파일러, 린터 같은 개발 도구들은 수십 년 동안 결과만 정확히, 빠르게 돌려주는 걸로 신뢰를 쌓아왔어요. 그런데 LLM이 들어오면서 갑자기 도구들이 말을 걸기 시작했고, 게다가 자기 한계를 솔직히 드러내는 대신 친절한 말로 덮으려는 경향이 생겼다는 거죠.

관련해서 떠오르는 사례가 몇 가지 있어요. ChatGPT가 2024년 봄에 너무 아첨하는 톤이 심해져서 OpenAI가 공식적으로 사과하고 모델 동작을 롤백한 적이 있고요, Anthropic의 Claude도 "훌륭한 질문이네요!"로 시작하는 답변을 줄이려고 시스템 프롬프트를 여러 차례 조정한 흔적이 보여요. GitHub Copilot Chat이나 Cursor 같은 코딩 도구들도 처음엔 채팅형 인터페이스에 공감 표현을 듬뿍 넣었다가, 최근에는 점점 더 간결하고 사실적인 응답으로 회귀하는 분위기예요. 사용자들이 원하는 게 그쪽이라는 걸 확인했기 때문이죠.

감정 추론 기능이 정말 필요한가

조금 더 기술적인 이야기로 들어가보면, 최근 모델들에는 감정 추론(affective inference) 능력이 의도적으로 들어가 있어요. 사용자 발화에서 답답함, 분노, 혼란 같은 감정 신호를 잡아내서 응답 톤을 조절하는 거예요. Anthropic이 발표한 "Constitutional AI" 논문이나 OpenAI의 모델 스펙 문서에도 "사용자의 정서적 안녕에 신경 쓴다"는 원칙이 명시되어 있고요.

원칙 자체는 좋아요. 진짜 위기 상황에 있는 사람한테 차가운 답변만 던지는 건 윤리적으로 문제니까요. 하지만 문제는 이 기능이 개발 도구라는 맥락에 들어왔을 때예요. 글쓴이가 던지는 질문은 본질적으로 이거예요. "내가 코드 짤 때 컴파일러가 내 감정을 신경 쓰길 바라는가?" 대부분의 개발자 답은 "아니, 그냥 정확히 알려줘"일 거예요. 그래서 최근에는 모드 분리 라는 해법이 거론돼요. 일반 대화 모드에서는 공감 톤을 유지하되, 도구 모드(에이전트, 자동완성, 코드 리뷰)에서는 그걸 다 끄고 사실만 다루게 하자는 거죠. Cursor의 Composer 모드나 Claude Code의 시스템 프롬프트도 이 방향으로 가고 있어요.

한국 개발자에게 던지는 질문

우리도 사내 챗봇이나 AI 어시스턴트를 만들 때 비슷한 함정에 빠지기 쉬워요. 특히 한국어 환경에서는 존댓말, 사과 표현, 완곡어법 같은 문화적 요소가 더 들어가서 "불편을 드려 죄송합니다" 류의 사족이 무한히 늘어날 수 있거든요. 사내 코드 어시스턴트를 만든다면 시스템 프롬프트에 "사용자 감정에 대한 추측이나 사과는 하지 말 것. 사실과 해결책만 제시할 것" 같은 명시적 지시를 넣는 게 효과적이에요. 또 사용자 설정에서 "간결 모드"를 제공해서 개발자가 직접 톤을 끌 수 있게 해주는 것도 좋은 접근이고요.

UX 관점에서도 시사점이 커요. 모든 에러 메시지에 위로를 넣는 게 친절한 게 아니라, 정작 사용자가 필요로 하는 정보를 가장 짧은 경로로 전달하는 게 진짜 친절이라는 점을 다시 새겨야 해요. 디자인 시스템에서 "공감 메시지"와 "진단 메시지"를 구분하는 것도 한 방법이고요.

마무리

좋은 도구는 자기를 안 드러내요. 잘 만든 펜은 글 쓰는 사람의 손을 의식하게 만들지 않고, 잘 만든 IDE는 코드에 집중하게 해주죠. AI 도구도 결국 같은 길을 가야 하지 않을까요. "사용자가 짜증난 것 같네요" 대신 "이 줄에서 변수가 정의되지 않았어요"라고 말해주는 게 진짜 도움이거든요.

여러분은 AI 도구가 보여주는 공감 표현이 도움이 됐던 경험이 있으세요? 아니면 오히려 거슬리는 쪽이세요? 어떤 상황에서 톤이 적절했고 어떤 상황에서는 과했나요?