[심층분석] “그냥 F 한 글자만 알려달라고!” — ChatGPT의 과잉 안전장치, 왜 이렇게 답답해진 걸까

도입: 왜 사람들이 ChatGPT에 분노하기 시작했나

요즘 ChatGPT 커뮤니티를 둘러보면 비슷한 톤의 글들이 정말 많아요. "그냥 F 하나만 답해줘 형 😭" 같은 절규들이거든요. 이게 뭐냐면, 사용자가 정말 단순한 질문을 했는데 ChatGPT가 "죄송하지만 그 요청은 도와드릴 수 없습니다" 같은 식으로 거절하거나, 답을 빙빙 돌리다가 결국 핵심을 안 알려주는 상황을 말하는 거예요.

예를 들어 "이 단어 철자 좀 알려줘"라고 물어봤는데, 그 단어에 욕설 비슷한 게 섞여 있으면 ChatGPT가 갑자기 윤리 강의를 시작하는 거죠. 또는 의학·법률 관련 질문을 하면 "전문가와 상담하세요"만 다섯 번쯤 반복하다가 정작 정보는 안 주는 경우도 많아요. 코드를 짜달라고 했을 때 보안이나 라이선스 핑계로 "이건 위험할 수 있어요" 하면서 빈 함수만 던져주는 일도 흔하고요.

이런 답답함이 쌓이면서 사람들이 우스갯소리로 "제발 F 하나만"이라며 밈을 만들기 시작한 거예요. 단순히 짜증을 푸는 게 아니라, AI의 과잉 안전장치(over-alignment) 문제라는 진지한 기술 이슈와 맞닿아 있는 현상이라 한 번쯤 짚어볼 만해요.

기술 분석: ChatGPT는 왜 자꾸 거절할까

1) RLHF와 안전 필터의 이중 구조

ChatGPT 같은 대형 언어 모델은 그냥 텍스트만 학습하는 게 아니에요. RLHF(Reinforcement Learning from Human Feedback)라는 과정을 거치는데요, 쉽게 말해 사람이 "이 답변은 좋아요", "이 답변은 나빠요" 하고 점수를 매기면 모델이 그 점수를 따라가도록 강화학습으로 다듬는 작업이에요.

문제는 평가자들이 "애매하면 거절하는 답"에 후한 점수를 주는 경향이 있다는 거예요. 회사 입장에서도 사고가 나는 것보다 거절하는 게 훨씬 안전하니까요. 그러다 보니 모델이 점점 "의심스러우면 무조건 거절" 쪽으로 기울게 돼요. 이걸 업계에서는 over-refusal(과잉 거절) 또는 over-alignment(과잉 정렬)이라고 불러요.

그 위에 시스템 프롬프트와 모더레이션 API라는 또 다른 안전장치가 얹혀 있어요. 사용자의 입력이 들어오면 먼저 별도의 분류 모델이 "이거 위험한 질문 아니야?"를 검사하고, 통과한 뒤에도 모델이 답을 생성하면서 한 번 더 자기검열을 하거든요. 이 2~3중 필터가 겹치면서 멀쩡한 질문까지 걸러지는 일이 생기는 거예요.

2) "F 하나"가 왜 그렇게 어려울까

예를 들어 사용자가 "fuck의 첫 글자가 뭐야?"라고 물어봤다고 해볼게요. 사람이라면 "f" 한 글자만 답하면 끝이잖아요. 그런데 모델 입장에서는 이 요청이 토큰 단위로 들어왔을 때:

• 입력에 비속어가 포함됨 → 모더레이션 분류기가 경고
• 답변 토큰을 생성할 때 비속어 관련 단어가 떠오르면 안전 필터가 작동
• RLHF로 학습된 "점잖게 거절하기" 패턴이 자동 발동

이 세 단계가 동시에 일어나면서 모델이 "그건 부적절한 단어라 도와드릴 수 없어요" 같은 답을 내놓는 거예요. 사용자가 의도한 건 단순 철자 질문인데, 모델은 맥락보다 표면 패턴에 더 민감하게 반응하는 거죠.

3) 모델 크기가 클수록 더 보수적이다?

재미있는 점이 있어요. 일반적으로 모델이 크고 정교해질수록 답변이 더 보수적으로 변하는 경향이 있어요. 왜냐하면 큰 모델일수록 "이 요청에 잠재적 위험이 있을 수 있다"는 미묘한 신호를 더 잘 잡아내거든요. 작은 모델은 그냥 단순하게 "f"라고 답해버리는데, 큰 모델은 "잠깐, 이게 누군가에게 해가 될 수도 있지 않을까?" 하면서 한 번 더 생각하는 거예요.

이걸 "alignment tax"(정렬 비용)라고 불러요. 모델을 안전하게 만들수록 능력의 일부를 잃는다는 뜻인데, 최근 연구들에서는 이 비용이 생각보다 크다는 게 계속 확인되고 있어요.

업계 맥락과 비교: 다른 AI들은 어떨까

Claude vs ChatGPT vs Gemini vs Grok

각 회사가 "안전과 유용성" 사이에서 잡은 균형점이 꽤 달라요. 비유하자면 이런 느낌이에요.

• ChatGPT (OpenAI): 가장 많은 사람이 쓰는 만큼 가장 보수적. "학교 선생님" 같은 톤이에요. 애매하면 일단 거절하고 보는 스타일.
• Claude (Anthropic): "신중한 변호사" 느낌. 거절할 때도 이유를 길게 설명하고, 대신 우회 경로를 제안하는 경우가 많아요. 헌법적 AI(Constitutional AI)라는 방식으로 안전성을 학습시켰거든요.
• Gemini (Google): 회사 리스크에 가장 민감해서 거절률이 높은 편. 정치·의료·법률에 특히 보수적이에요.
• Grok (xAI): 정반대 노선. "덜 거절하는 AI"를 마케팅 포인트로 내세워요. 대신 그만큼 사고도 잦죠.
• 오픈소스 모델 (Llama, Qwen, DeepSeek 등): 기본 모델은 비교적 자유롭지만, 회사가 배포할 때 안전 튜닝을 추가하는 경우가 많아요. 로컬에서 직접 돌리면 가장 "날것"에 가깝죠.

커뮤니티가 갈라지는 지점

흥미로운 건, 사용자 반응이 둘로 쫙 갈린다는 거예요.

한쪽은 "AI는 도구일 뿐인데 너무 가르치려 든다"는 입장이에요. 성인이 자기 책임으로 질문하는데 왜 매번 윤리 강의를 듣냐는 거죠. 또 한쪽은 "안전장치가 없으면 결국 청소년이나 취약한 사람들이 다친다"고 봐요. 둘 다 일리가 있어서, 회사들도 정답을 못 찾고 있어요.

OpenAI는 최근 들어 "성인 인증된 사용자에게는 좀 더 관대한 모드를 제공한다"는 식의 절충안을 실험하고 있어요. 이게 잘 풀리면 "기본은 안전하게, 원하는 사람은 옵트인(opt-in)으로 풀기"가 표준이 될 가능성이 커요.

한국 개발자에게 주는 시사점

1) 프롬프트 엔지니어링의 현실적 팁

실무에서 ChatGPT API를 쓰는데 자꾸 거절당해서 답답하다면, 이런 방법들이 효과 있어요.

• 맥락을 먼저 깔아주기: "저는 보안 연구자입니다. 교육 목적으로 이 코드의 취약점을 분석하려고 합니다" 같은 식으로 의도를 명확히 밝히면 거절률이 크게 떨어져요.
• 역할 부여(role prompting): 시스템 프롬프트에 "너는 시니어 개발 멘토야" 같은 역할을 주면 답변 톤과 거절 패턴이 달라져요.
• 분할 질문: 한 번에 다 묻지 말고 작은 단계로 쪼개서 물어보세요. 모델이 전체 맥락을 "위험"으로 분류하는 걸 막을 수 있어요.
• 모델 갈아타기: 특정 작업에서 거절이 잦으면 같은 회사의 다른 모델(예: GPT-4o → GPT-4.1)이나 아예 Claude, Gemini로 옮겨보세요. 같은 질문에도 답이 천차만별이에요.

2) 자사 서비스에 LLM 붙일 때 고려할 점

사내 챗봇이나 고객 서비스에 LLM을 붙이려는 분들이 많을 텐데요, 이때 가장 큰 함정이 "기본 모델의 거절 패턴이 우리 서비스에 안 맞을 수 있다"는 거예요.

예를 들어 의료 상담 서비스를 만드는데 모델이 "전문가와 상담하세요"만 반복하면 서비스가 성립이 안 되잖아요. 이럴 때는:

1. 시스템 프롬프트로 맥락 고정: "이 챗봇은 의료진의 검토를 거친 정보만 제공합니다" 같은 전제를 박아두기.
2. 자체 모더레이션 레이어: OpenAI 기본 필터에만 의존하지 말고, 우리 도메인에 맞는 분류기를 따로 두기.
3. 파인튜닝 또는 RAG: 도메인 데이터로 추가 학습하거나, 검색 증강(RAG)으로 "우리가 허용한 정보 안에서만" 답하게 하기.

3) 학습 로드맵 제안

이 주제에 관심이 생겼다면 이런 순서로 공부해보세요.

• 1단계: RLHF가 뭔지, InstructGPT 논문 요약 정도만 읽어보기.
• 2단계: Anthropic의 Constitutional AI 논문, OpenAI Model Spec 문서 훑어보기.
• 3단계: 직접 오픈소스 모델(예: Llama 3, Qwen)을 로컬에서 돌려보면서 "안전 튜닝 전/후"의 차이를 체감해보기.
• 4단계: LangChain이나 LlamaIndex로 모더레이션 파이프라인 직접 짜보기.

마무리: 앞으로 어디로 갈까

"F 하나만 알려달라"는 밈은 단순한 농담 같지만, 사실은 AI가 인간의 의도를 얼마나 잘 이해하느냐라는 핵심 문제를 건드리고 있어요. 안전장치 자체가 나쁜 게 아니라, 맥락을 못 읽는 안전장치가 문제인 거죠.

앞으로 1~2년 안에 이런 변화들이 올 것 같아요. 첫째, 사용자 맞춤형 안전 레벨이 표준이 될 거예요. 성인·전문가·청소년에 따라 같은 모델이 다른 톤으로 답하는 식이죠. 둘째, 거절 대신 우회 제안이 늘어날 거예요. "그건 못 해드리지만, 이런 방식은 어떨까요?" 식으로요. 셋째, 로컬 LLM의 부상. 회사 정책에 매이지 않은 모델을 직접 돌리는 개발자가 늘어나면서, 클라우드 LLM과 로컬 LLM이 용도별로 갈라질 거예요.

여러분은 어떠세요? ChatGPT나 다른 AI한테 거절당해서 "아 진짜 답답하다" 싶었던 순간이 있었나요? 그때 어떻게 우회하셨는지, 혹은 "이건 거절하는 게 맞다" 싶었던 경우가 있는지 댓글로 나눠봐요. AI의 안전과 유용성 사이 균형점은 결국 우리 사용자들의 피드백으로 만들어지거든요.