'AI는 공정할 거야'라는 착각
요즘 채용 시장에서 AI가 이력서를 1차로 걸러내는 일이 흔해졌어요. 지원자가 워낙 많으니 사람이 다 보기 힘들거든요. 많은 회사가 'AI는 사람처럼 감정이나 편견이 없으니 오히려 더 공정할 거야'라고 기대하면서 도입했죠. 그런데 스탠퍼드대학교 인간중심 AI 연구소(HAI)의 연구는 정반대 결과를 보여줬어요. AI 채용 도구가 오히려 인종에 따라 사람을 차별하고 있었다는 거예요.
연구는 어떻게 진행됐나
연구진은 똑같은 내용의 이력서를 준비했어요. 경력도, 학력도, 능력도 전부 동일하게요. 딱 하나, 지원자의 '이름'만 바꿨어요. 이름은 보통 그 사람의 인종이나 성별을 짐작하게 하는 단서가 되잖아요. 그렇게 이름만 다른 이력서들을 대형 언어모델(LLM) 기반 채용 도구에 넣고, 어떤 이력서를 통과시키고 어떤 걸 떨어뜨리는지 살펴봤어요.
결과는 꽤 충격적이었어요. 백인 남성으로 추정되는 이름에 비해 흑인으로 추정되는 이름은 약 26%, 아시아계로 추정되는 이름은 약 15% 더 높은 비율로 탈락했어요. 능력이 똑같은데 이름만으로 떨어진 거죠. 사람이 직접 그랬다면 명백한 차별이라고 했을 일을, AI가 자동으로, 그것도 대규모로 하고 있었던 거예요.
왜 이런 일이 벌어질까
이게 뭐냐면요, AI는 결국 인간이 만든 데이터를 학습해요. 인터넷의 글, 과거의 채용 기록 같은 걸 어마어마하게 많이 읽고 그 안의 패턴을 익히죠. 그런데 그 데이터 안에는 인간 사회가 오랫동안 쌓아온 편견이 그대로 녹아 있어요. 특정 이름과 특정 직업, 특정 평가를 은근히 연결 짓는 미묘한 패턴들이요. AI는 그걸 '옳고 그름'으로 판단하는 게 아니라 그냥 '자주 같이 나타나는 패턴'으로 학습해버려요. 그래서 의도하지 않아도 편견을 그대로, 때로는 더 증폭해서 재생산하게 되는 거예요. '쓰레기를 넣으면 쓰레기가 나온다(Garbage In, Garbage Out)'는 말이 딱 들어맞죠.
특히 무서운 건 이게 '체계적인 거부(systemic rejection)'라는 점이에요. 사람 면접관은 그날 컨디션이나 개인차라도 있지만, AI는 같은 기준을 모든 지원자에게 일관되게 적용하거든요. 편향이 있으면 그 편향이 한 명의 실수가 아니라 수만 명에게 똑같이, 빠짐없이 적용돼요. 차별의 규모 자체가 비교가 안 되는 거죠.
업계 맥락
사실 AI 채용의 편향 문제는 어제오늘 일이 아니에요. 아마존도 2018년에 AI 채용 도구를 만들었다가, 여성 지원자를 깎아내리는 편향이 발견되어 프로젝트 자체를 폐기한 적이 있어요. 그래서 각국이 규제를 만들기 시작했어요. 미국 뉴욕시는 채용에 쓰는 자동화 도구에 대해 편향 감사(bias audit)를 의무화했고, 유럽연합의 AI 법(EU AI Act)은 채용 AI를 '고위험' 등급으로 분류해서 까다롭게 관리하도록 했어요. 즉, AI를 채용에 쓰려면 '공정하다는 걸 증명'해야 하는 시대로 가고 있는 거예요.
한국 개발자에게 주는 시사점
우리나라에서도 AI 면접, AI 서류 심사가 빠르게 늘고 있죠. 만약 여러분이 이런 시스템을 만들거나 도입하는 입장이라면 이 연구는 정말 중요한 경고예요. 모델 정확도만 볼 게 아니라 '어떤 집단에서 유독 결과가 나쁘지 않은지' 반드시 따로 측정해봐야 해요(이걸 공정성 평가, fairness evaluation이라고 해요). 이름이나 출신 지역, 성별을 짐작하게 하는 정보를 학습 단계에서 빼는 것도 한 방법이고요. 더 나아가서, AI의 판단을 그대로 믿지 말고 사람이 최종 검토하는 절차(human in the loop)를 꼭 남겨두는 게 안전해요. AI를 다루는 개발자에게 윤리는 이제 '선택'이 아니라 '실력'의 일부가 됐어요.
AI는 거울 같아요. 우리 사회의 편견을 있는 그대로 비추거든요. 여러분이 채용 AI를 만든다면, 이 편향을 줄이기 위해 어떤 장치를 가장 먼저 넣어보고 싶으세요?
🔗 출처: Hacker News