회사들이 똑같은 AI로 사람을 뽑으면 벌어지는 일 — '알고리즘 단일재배'의 함정

한 번 떨어지면 어디서도 못 붙는다면?

요즘 채용 시장에서 AI가 이력서를 1차로 걸러내는 건 더 이상 특별한 일이 아니에요. 지원자가 수백, 수천 명씩 몰리니까 사람이 일일이 다 볼 수가 없거든요. 그래서 많은 회사들이 AI 채용 도구를 도입했죠. 그런데 여기서 한번 생각해볼 게 있어요. 만약 A회사도, B회사도, C회사도 전부 똑같은(혹은 비슷하게 학습된) AI를 쓴다면 어떻게 될까요?

이번에 공개된 연구가 던지는 질문이 바로 이거예요. 연구진은 이런 현상에 '알고리즘 단일재배(Algorithmic Monoculture)'라는 이름을 붙였어요. '단일재배'라는 말은 원래 농업에서 온 표현인데요, 넓은 밭에 전부 똑같은 품종의 작물만 심는 걸 말해요. 수확량은 좋아 보이지만, 그 품종에 치명적인 병충해가 한 번 돌면 밭 전체가 통째로 망해버리거든요. 채용 AI도 똑같은 위험을 안고 있다는 거죠.

개인은 잘 골라도, 시스템은 망가진다

핵심 아이디어가 꽤 날카로워요. 보통 우리는 채용 알고리즘을 평가할 때 '이 AI가 좋은 지원자를 잘 골라내나?'를 봐요. 즉 한 회사 입장(개별 정확도)에서만 따지는 거죠. 그런데 연구진은 시야를 사회 전체로 넓혀봤어요.

상상해볼게요. 어떤 지원자가 특정 패턴 때문에 AI한테 살짝 낮은 점수를 받는다고 해봐요. 예를 들어 이력서 형식이 좀 특이하다거나, 비전공자 출신이라거나 하는 식으로요. 한 회사만 이 AI를 쓴다면 이 사람은 그냥 그 회사 한 곳에 떨어지고 다른 데 가면 돼요. 그런데 모든 회사가 비슷한 AI를 쓰면? 이 사람은 어디를 지원해도 똑같은 이유로 매번 탈락해요. 능력이 없어서가 아니라, 모두가 같은 잣대를 들이대기 때문에 시스템 전체에서 통째로 배제되는 거예요. 연구에서는 이걸 '체계적 배제(systemic exclusion)'라고 불러요.

반대 상황도 무서워요. AI들이 비슷하게 점수를 매기니까, 인기 있는 지원자에게는 모든 회사의 합격 제안이 한꺼번에 몰려요. 결국 그 사람은 한 곳밖에 못 가니까, 나머지 회사들은 다 같이 같은 후보를 노리다가 빈손이 되는 거죠. 회사 입장에서도 손해예요.

다양성이 오히려 효율을 살린다

여기서 재미있는 반전이 나와요. 연구진의 시뮬레이션에 따르면, 회사마다 일부러 조금씩 다른(덜 완벽해 보이는) 알고리즘을 섞어 쓰는 게 사회 전체로는 더 나은 결과를 낸다는 거예요. 각자가 1등짜리 최고 성능 AI 하나에 다 같이 매달리는 것보다요.

이게 왜 그러냐면, 평가 기준이 다양해지면 한 곳에서 놓친 인재를 다른 곳이 알아보거든요. 무작위성이 약간 섞이면 '한 번 찍히면 영원히 끝'인 구조가 깨져요. 어떤 사람에게는 다시 기회가 생기는 거죠. 우리가 보통 '최적화'라고 하면 모두가 가장 좋은 도구 하나로 수렴하는 걸 떠올리는데, 채용처럼 사람의 인생이 걸린 사회 시스템에서는 그 수렴 자체가 독이 될 수 있다는 통찰이에요.

업계 맥락에서 보면

사실 이건 채용만의 이야기가 아니에요. 똑같은 구조가 우리 주변에 이미 많아요. 대출 심사 AI를 여러 은행이 비슷하게 쓰면, 한 번 신용 점수에서 걸린 사람은 어느 은행에서도 돈을 못 빌려요. 콘텐츠 추천 알고리즘이 비슷하게 굴러가면 모두가 똑같은 영상만 보게 되고요. 'AI 모델 쏠림' 현상은 요즘 거대 파운데이션 모델(GPT 계열 같은 초대형 AI) 몇 개에 전 세계가 의존하면서 더 심해지고 있어요. 다들 같은 모델을 갖다 쓰니까, 그 모델의 편향이 곧 사회 전체의 편향이 되는 거죠.

예전에 'EU AI Act' 같은 규제가 고위험 영역(채용·대출 등)에서 AI 사용을 엄격히 따지는 것도 이런 맥락이에요. 단순히 '이 AI가 차별하나?'를 넘어서, '모두가 이걸 쓰면 사회가 어떻게 되나?'까지 봐야 한다는 흐름이죠.

한국 개발자에게 주는 시사점

우리도 채용 플랫폼, HR 솔루션, 추천 시스템 같은 걸 만들거나 도입할 일이 점점 많아지고 있잖아요. 이 연구가 주는 교훈은 명확해요. '우리 모델 정확도 95%'라는 숫자 하나만 보고 안심하면 안 된다는 거예요. 내 서비스가 시장에서 표준이 되는 순간, 내 모델의 약점이 그대로 사회 전체의 약점이 되거든요.

실무에서 당장 적용해볼 만한 것도 있어요. 평가 파이프라인에 의도적인 다양성을 넣는 거예요. 예를 들어 1차 필터에서 떨어진 후보 중 일부를 무작위로 다시 살려서 사람이 검토하게 한다거나, 서로 다른 기준으로 학습한 모델 두세 개의 의견을 비교한다거나 하는 식으로요. 완벽한 단일 모델보다 '다양성을 품은 시스템'이 더 건강하다는 관점, 이건 채용뿐 아니라 우리가 만드는 거의 모든 AI 서비스 설계에 적용되는 이야기예요.