요즘 하루에 몇 번이나 AI한테 물어보세요? 코드 짜다 막히면 물어보고, 에러 메시지 붙여넣고, 설계 고민도 상담하잖아요. 그런데 이 습관에 대해 한 번쯤 멈춰 생각하게 만드는 연구 결과가 나왔어요. AI의 조언을 받은 사람들이 조언 없이 판단한 사람들보다 오히려 덜 정확했는데, 정작 본인의 답에 대한 확신은 더 컸다는 거예요. 실력은 내려갔는데 자신감은 올라간, 제일 위험한 조합이죠.
실험에서 무슨 일이 있었냐면
연구진은 참가자들에게 판단 과제를 주고, 한쪽 그룹에는 AI의 조언을 함께 제공했어요. 결과가 흥미로운데요, AI 조언을 받은 그룹은 조언이 틀렸을 때조차 그걸 따라가는 경향을 보였어요. 스스로 따져보는 과정을 건너뛰고 AI의 답을 출발점이자 결론으로 받아들인 거죠. 그렇게 정확도는 떨어졌는데, '내 답이 맞을 것 같다'는 확신은 조언을 받지 않은 그룹보다 오히려 높게 나왔어요.
이게 뭐냐면, 심리학에서 오래 연구된 '자동화 편향(automation bias)'이라는 현상이에요. 기계가 내놓은 답은 사람 말보다 객관적이고 정확할 거라고 무의식적으로 믿어버리는 심리거든요. 항공이나 의료 분야에서는 이 편향 때문에 사고가 난 사례가 많아서 오래전부터 훈련으로 대응해왔는데, 생성형 AI가 모든 직군에 퍼지면서 이제 우리 모두가 같은 함정 앞에 서게 된 거예요.
더 무서운 건 '메타인지 격차'예요. 메타인지가 뭐냐면, 내가 뭘 알고 뭘 모르는지를 스스로 아는 능력이에요. 그냥 틀리는 건 다음에 고치면 되는데, 틀리면서 확신까지 하면 검토할 이유 자체가 사라지거든요. AI의 유창하고 단정적인 말투가 이 착각을 부추겨요. 사람은 자신 없으면 말을 흐리는데, AI는 틀린 답도 아주 매끄럽고 당당하게 말하니까요.
개발 현장에서는 이미 벌어지고 있는 일
이 연구가 남 얘기 같지 않은 이유가 있어요. Copilot이나 Claude가 짜준 코드를 제대로 읽지 않고 커밋하는 모습, 주변에서 어렵지 않게 볼 수 있잖아요. AI가 생성한 코드에 보안 취약점이나 미묘한 버그가 섞여 있어도 '일단 돌아가니까' 그냥 넘어가는 경우도 많고요. 분위기에 몸을 맡기고 AI에게 코딩을 통째로 맡기는 이른바 '바이브 코딩' 논쟁도 결국 같은 질문으로 이어져요. 검증하는 사람이 사라지면 무슨 일이 생기는가 하는 거죠.
특히 주니어에게는 이 문제가 더 무겁게 다가와요. AI의 답이 맞는지 판별하려면 그걸 검증할 실력이 있어야 하는데, 그 실력은 스스로 헤매고 틀려보는 과정에서 쌓이거든요. 그런데 AI가 그 과정을 통째로 건너뛰게 해주니까, 검증 능력이 생기기 전에 확신하는 습관부터 배우게 될 위험이 있는 거예요.
그럼 어떻게 써야 할까요
AI를 쓰지 말자는 얘기가 아니에요. 연구가 알려주는 건 '쓰는 자세'거든요. 몇 가지 습관이 도움이 돼요. 첫째, AI의 답을 결론이 아니라 초안으로 대하는 거예요. 받은 코드를 한 줄씩 설명할 수 있는지 스스로 점검해보고, 설명 못 하는 줄이 있으면 거기가 공부할 지점이에요. 둘째, AI에게 묻기 전에 내 가설을 먼저 세워보는 거예요. 내 답과 AI 답이 다를 때 그 차이를 파고드는 게 진짜 학습이 되거든요. 팀 차원에서는 AI가 생성한 코드도 사람이 짠 코드와 똑같은 강도로 리뷰하는 문화를 지키는 게 중요하고요.
정리하면 이래요. 문제는 AI가 틀리는 게 아니라, AI 앞에서 우리가 의심을 멈춘다는 거예요. 도구는 점점 똑똑해지는데 그걸 검증하는 근육은 쓰지 않으면 줄어들거든요. 여러분은 AI의 답변을 얼마나 검증하고 받아들이시나요? 팀에 AI 생성 코드에 대한 리뷰 규칙이 있다면 어떻게 운영하고 계신지도 궁금해요.
🔗 출처: Hacker News