AI 조언을 받으면 정확도는 떨어지고 자신감만 커진다

새로운 연구에 따르면, 사람들은 AI의 조언을 참고할 때 오히려 정답률이 낮아졌지만 자신의 판단에 대한 확신은 더 강해졌습니다. 문제는 AI가 틀린 답을 제시할 때조차 사용자들이 이를 비판 없이 받아들였다는 점입니다. AI의 매끄럽고 단정적인 어투가 '설득력'으로 작용해, 스스로 검증하고 의심하는 비판적 사고를 억눌렀기 때문입니다. 이른바 '자동화 편향(automation bias)'으로, 그럴듯한 답변일수록 우리는 더 쉽게 사고를 멈춥니다. IT 종사자에게 시사점은 분명합니다. 코드 리뷰, 아키텍처 결정, 데이터 분석 등에서 AI 결과물을 그대로 신뢰하면 오류가 조용히 스며들 수 있습니다. AI를 최종 답이 아닌 '검증 대상인 초안'으로 다루고, 근거를 되묻는 습관이 필요합니다. 편리함이 곧 정확함은 아니며, 자신감과 실력의 착시를 경계해야 할 때입니다.