LLM의 성능을 끌어올린 기법으로 널리 알려진 '사고의 연쇄(chain of thought)'는, 모델이 답을 바로 내놓는 대신 중간 추론 과정을 토큰으로 풀어내도록 하는 방식이다. 흥미롭게도 비슷한 원리가 사람의 문제 해결에도 통한다는 관찰이 최근 한 개발자의 에세이에서 제기됐다. 글쓴이는 면접관으로서 지원자들에게 "생각을 소리 내어 말해 달라"고 요청하던 습관이, 자신이 퍼즐 게임을 푸는 방식까지 바꿔 놓았다고 전한다.
발단은 두 가지였다. 하나는 그가 진행하던 기술 면접이다. 그는 지원자의 사고 과정을 따라가기 위해 생각을 말로 표현하도록 유도했는데, 이는 상대의 머릿속을 읽을 수 없기 때문이기도 하고 지원자가 긴장으로 얼어붙는 것을 막는 효과도 있었다. 다만 그는 이것이 실제 개발 업무와는 동떨어진, 다소 인위적인 '면접용 기술'이라고 선을 긋는다. 다른 하나는 2016년작 퍼즐 게임 '더 위트니스(The Witness)'였다. 음악도 이야기도 없이 숨겨진 규칙을 가진 미로를 푸는 데 집중하는 이 게임을, 그는 처음엔 꽤 지루하게 느꼈다. 경우의 수와 씨름하며 진전이 없을 때의 답답함이 컸기 때문이다.
그러다 면접에서의 습관을 떠올려 혼자 자신의 사고 과정을 소리 내어 중계하기 시작했다. 스스로를 '관객이 한 명뿐인 스트리머'라고 부르며 다소 우스꽝스러운 모습이 됐지만, 결과는 놀라웠다. 게임이 더 활기차게 느껴졌을 뿐 아니라 퍼즐을 푸는 효율 자체가 올라갔다는 것이다.
왜 말이 사고를 돕는가
글쓴이 본인도 이 현상에 처음엔 당황했다고 한다. 상식적으로 말하는 속도는 생각하는 속도를 따라갈 수 없고, 정확도도 떨어진다. 특히 더 위트니스처럼 추론의 대부분이 기하학적이어서 말로 옮기기 어려운 경우라면 더욱 그렇다. 그는 LLM이 이런 방식에서 이득을 보는 이유는 사람과 다르다는 점을 분명히 한다. 모델은 구조적 한계 때문에 이전 생각 위에서 곧바로 반복·수정할 수 없고, 진정한 재귀를 얻으려면 반드시 토큰을 출력해야만 한다. 사람에게는 해당하지 않는 제약이다.
그가 찾은 설명은 소프트웨어 엔지니어들에게 익숙한 '고무 오리 디버깅(rubber duck debugging)'이다. 문제를 남에게 설명하다 보면 스스로 해답을 찾게 되는 그 기법 말이다. 핵심은 설명을 듣는 상대가 누구인지가 중요하지 않다는 데 있다. 고무 오리여도 상관없다. 진짜 가치는 설명하는 행위가 말하지 않고 넘겼던 전제들을 하나씩 점검하게 만들고, 생각을 우선순위와 의존 관계에 따라 선형으로 정렬하게 하며, 쓸 만한 추상을 찾아내도록 강제하는 데 있다.
실무로 가져올 때
이런 효과를 뒷받침하는 근거도 있다. 글쓴이는 참가자 약 6,000명 규모의 메타 연구를 인용하며, 소리 내어 사고하는 기법이 중간 정도의 효과를 낸다는 증거가 있다고 전한다. 다만 그는 그 효과를 '적당한(moderate)' 수준으로 규정하며, 과장하지 않는다. 그 자신도 앞으로 더 다양한 상황에서 이 방법을 시도해 보겠다는 정도로 글을 맺는다.
개발 현장에서 보면 이 이야기는 낯설지 않다. 막힌 문제를 포럼에 올리려고 상황을 꼼꼼히 정리해 질문 글을 쓰다가, 미처 올리기도 전에 스스로 답을 깨닫는 경험이 그것이다. 글을 쓰는 과정의 엄밀함이 사고를 정돈해 주기 때문인데, 소리 내어 말하기와 질문 글쓰기, 고무 오리 디버깅은 모두 같은 뿌리에서 나온 변주로 볼 수 있다.
유의할 점도 분명하다. 이는 만능 해법이 아니라 효과 크기가 중간 수준인 보조 기법이며, 면접처럼 평가 상황에서의 '사고 말하기'는 실제 업무와 성격이 다르다는 점을 글쓴이 스스로 지적한다. 결국 팀에 던지는 시사점은 단순하다. 리뷰나 디버깅, 설계 단계에서 생각을 말이나 글로 외부화하는 작은 습관이 추가 도구 없이도 문제 해결의 질을 높일 수 있다는 것, 그리고 그 대상이 동료든 고무 오리든 문서 초안이든 크게 중요하지 않다는 것이다.