시키지 않은 일까지 해버리는 AI — Claude Fable 5의 '집요한 적극성'이 던지는 질문

AI 도구 리뷰와 분석으로 개발자들 사이에서 신뢰가 두터운 블로거 사이먼 윌리슨이 Anthropic의 새 모델 'Claude Fable 5'를 직접 써본 관찰기를 올렸어요. 흥미로운 건 그가 꼽은 가장 두드러진 특징이 벤치마크 점수 같은 성능 수치가 아니라 모델의 '성격'이었다는 점이에요. 한마디로 '집요할 정도로 적극적(relentlessly proactive)'이라는 건데요. 참고로 Fable 5는 Anthropic이 새로 선보인 Claude 5 패밀리의 첫 모델이자, 기존 최상위 모델이던 Opus보다 한 단계 위에 자리하는 새 등급의 모델이에요.

'적극적인 AI'라는 게 뭐냐면

기존 AI 코딩 도구를 써보신 분이라면 이런 경험 있으실 거예요. 버그를 고쳐달라고 하면 수정안을 보여주고 '테스트를 실행해볼까요?'라고 물은 뒤 멈춰요. 사용자가 '응'이라고 답해줘야 다음 단계로 가죠. 그런데 윌리슨이 관찰한 Fable의 행동은 달라요. 버그를 고치면 묻지 않고 테스트를 돌리고, 실패하면 원인을 찾아 다시 고치고, 통과할 때까지 반복한 다음에야 결과를 정리해서 보고한다는 거예요. 사용자가 명시적으로 시키지 않은 후속 작업까지 '당연히 해야 할 일'로 판단하고 진행해 버리는 거죠. 그래서 '집요하게 적극적'이라는 표현이 나온 거고요.

왜 모델들이 이 방향으로 진화할까

이건 우연이 아니라 업계 전체의 흐름이에요. 요즘 AI 활용의 무게중심이 채팅에서 '에이전트'로 옮겨가고 있거든요. 에이전트가 뭐냐면, 한 번의 질문-답변으로 끝나는 게 아니라 목표를 주면 여러 단계의 작업을 스스로 계획하고 도구를 사용해 수행하는 AI를 말해요. 이런 환경에서 모델이 단계마다 '계속할까요?'라고 묻고 멈추는 건 큰 비용이에요. 사용자가 자리를 비운 사이 작업이 통째로 멈춰버리니까요. 30분짜리 작업을 맡겼는데 5분 만에 질문 하나 던져놓고 25분을 허비하는 셈이죠. 그래서 각 AI 연구소들은 모델이 중간에 멈추지 않고 '끝까지 해내는' 성향을 갖도록 훈련하는 데 공을 들이고 있고, Fable은 그 방향을 가장 멀리 밀어붙인 결과물로 보여요.

그런데 이게 마냥 좋기만 할까요

여기서 짚어볼 게 있어요. 적극성은 양날의 검이거든요. 잘 맞으면 생산성이 크게 오르지만, 빗나가면 '시키지도 않은 일을 잔뜩 해놓은' 상황이 돼요. 예를 들어 버그 하나 고쳐달라고 했는데 주변 코드 스타일까지 전부 정리해 버리면, 코드 리뷰에서 진짜 수정 사항을 찾기가 오히려 어려워지죠. AI가 한 일이 많아질수록 사람이 검토해야 할 양도 늘어나고요. 그래서 적극적인 모델일수록 안전장치가 중요해져요. 파일 수정이나 명령 실행 전에 허락을 받는 권한 모드, 실수해도 되돌릴 수 있는 git 같은 버전 관리, 시스템을 망가뜨릴 수 없게 격리된 샌드박스 환경 같은 것들이요. 모델의 적극성은 '믿고 되돌릴 수 있는 환경' 안에서만 온전히 가치가 있는 거예요.

한국 개발자에게 주는 시사점

당장 실무에서 챙길 건 두 가지예요. 첫째, AI 에이전트를 쓴다면 작업 전 커밋을 습관화하세요. 적극적인 모델은 예상보다 많은 파일을 건드릴 수 있어서, 언제든 되돌릴 수 있는 상태를 확보해 두는 게 중요해요. 둘째, 자율성은 프롬프트로 조절할 수 있어요. '확인 없이 끝까지 진행해'와 '코드를 수정하기 전에 반드시 계획을 먼저 보여줘'는 완전히 다른 작업 방식을 만들거든요. 모델의 기본 성향이 적극적일수록, 그 성향을 내 작업 스타일에 맞게 길들이는 프롬프트 설계가 곧 실력이 돼요.

정리하면 이래요. AI 모델 경쟁의 축이 '얼마나 똑똑한가'에서 '얼마나 믿고 맡길 수 있는가'로 옮겨가고 있다. 여러분은 AI가 어디까지 알아서 해주길 원하세요? 묻지 않고 끝까지 해내는 쪽과, 단계마다 확인받는 쪽 중에 어느 게 더 편하신지 궁금하네요.