교황 레오의 AI 경고: "소수 기업이 통제하는 불투명한 AI는 새로운 비인간화를 부른다"

무슨 일이 있었나

2026년, 새로 즉위한 교황 레오 14세가 첫 회칙(encyclical)에서 인공지능 문제를 정면으로 다뤘어요. 회칙이 뭐냐면, 가톨릭 교회의 가장 권위 있는 공식 문서예요. 교황이 전 세계 14억 가톨릭 신자와 인류 전체에게 던지는 메시지죠. 그런데 그 첫 회칙의 핵심 주제가 "AI"라는 게 놀라워요. 기후 변화, 빈곤 같은 전통적 이슈가 아니라 AI를 첫 의제로 골랐다는 건 그만큼 시급하다고 본 거예요.

교황의 핵심 메시지는 이거예요. "소수의 기업이 통제하는 불투명한 알고리즘은 새로운 형태의 비인간화(dehumanization)를 만든다." 강한 표현이죠. AI 자체가 나쁘다는 게 아니라, AI가 어떻게 운영되는지가 문제라는 거예요.

무엇을 비판한 건가

교황의 비판은 크게 세 갈래로 나뉘어요.

첫째, 권력 집중이에요. 지금 세상을 움직이는 거대 언어 모델(LLM)을 만들 수 있는 회사는 손에 꼽혀요. OpenAI, Anthropic, Google, Meta, xAI, 그리고 중국의 몇몇 회사 정도예요. 모델 하나 훈련하는 데 수십억 달러가 들어가니까 사실상 진입 장벽이 너무 높아요. 이런 상황에서 "인류 전체에 영향을 주는 기술"이 "몇 사람의 손"에 있다는 게 위험하다는 거예요. 마치 전 세계 식량을 다섯 회사가 결정하는 것과 비슷하다는 비유죠.

둘째, 불투명성이에요. 우리가 ChatGPT나 Claude를 쓸 때, 그 안에서 어떤 일이 일어나는지 아무도 정확히 몰라요. 모델 가중치는 공개되지 않고, 훈련 데이터도 비밀이에요. 그런데 이 시스템이 사람들의 입사 지원서를 거르고, 대출 심사를 하고, 의료 진단을 보조해요. "왜 거절당했는지 모르는 사회"가 점점 가까워지고 있어요.

셋째, 인간 존엄성의 위협이에요. 이게 비인간화의 핵심인데요, AI가 사람을 "숫자"로 보기 시작하면 인간 고유의 가치를 잃어버린다는 거예요. 채용 AI가 이력서를 0.3초 만에 탈락시키고, 콘텐츠 추천 AI가 사람을 클릭 유발 도구로만 보고, 군사 AI가 사람을 좌표로만 인식하는 세상에 대한 경고예요.

종교 지도자가 왜 AI를 말하나

사실 교황이 첨단 기술을 비판한 건 이번이 처음이 아니에요. 전임 교황 프란치스코도 2020년 "로마 콜(Rome Call for AI Ethics)"이라는 AI 윤리 선언에 IBM, 마이크로소프트와 함께 서명했어요. 그런데 그건 권고 수준이었고, 이번 레오 14세의 회칙은 훨씬 강도 높은 비판이에요.

흥미로운 건 교황의 이름 자체도 의미가 있어요. "레오"라는 이름은 19세기 말 교황 레오 13세를 떠올리게 해요. 그는 산업혁명 시기 노동자 착취 문제를 정면으로 비판한 "새로운 사태(Rerum Novarum)"라는 회칙으로 유명해요. 즉, 새 교황이 "레오"를 택한 건 "산업혁명에 맞먹는 기술 혁명에 도덕적 목소리를 내겠다"는 의지의 표현으로 읽혀요.

업계 반응과 맥락

이 발언은 "AI 규제" 논쟁의 한복판에 떨어졌어요. EU는 이미 AI Act를 시행했고, 미국은 행정명령 수준에서 규제하고 있어요. 한국도 AI 기본법을 추진 중이고요. 그런데 빅테크들은 "규제가 혁신을 막는다"며 반발해 왔어요.

교황의 발언은 이 논쟁에 "도덕적 권위"를 더해요. 빅테크 CEO들이 "우리도 AI 안전을 신경 쓴다"고 말은 해왔지만, 실제로는 경쟁 압박에 밀려 안전 검토 단계를 줄이는 게 현실이에요. 작년에 OpenAI에서 안전팀 인력이 대거 떠난 사건이나, 여러 회사들의 "super-alignment" 팀 축소가 그 증거죠.

반면 오픈소스 진영(Hugging Face, Meta의 Llama, Mistral)은 "우리가 답이다"라고 주장해요. 모델을 공개하면 투명성 문제는 해결된다는 거죠. 그런데 오픈소스도 한계가 있어요. 가중치가 공개돼도 "왜 이 답을 냈는지" 해석하는 건 여전히 어렵거든요. 이걸 해석 가능성(interpretability) 문제라고 해요. Anthropic 같은 회사가 이쪽 연구를 많이 하고 있어요.

한국 개발자에게 주는 생각거리

우리가 매일 쓰는 AI 도구들에 대해 한 번쯤 멈춰 생각해볼 만한 주제예요. 단순히 "Claude가 GPT보다 코드를 잘 짠다" 같은 비교를 넘어서, "내가 만드는 서비스에 AI를 어떻게 책임감 있게 녹일 것인가"를 고민해볼 시점이에요.

예를 들어 채용 플랫폼을 만든다면, AI 필터링 결과를 사람에게 어떻게 설명할 건가요? 추천 알고리즘을 짠다면, 사용자가 "왜 이게 추천됐는지" 알 수 있게 할 건가요? 이런 질문들이 "기술적 선택"이 아니라 "윤리적 선택"이라는 인식이 점점 강해지고 있어요.

한국에서도 AI 윤리 가이드라인이 점점 구체화되고 있어요. 과기정통부가 발표한 "인공지능 윤리기준"이나, 금융위의 "금융 분야 AI 가이드라인" 같은 게 있어요. 단순한 권고가 아니라, 곧 법적 의무가 될 가능성이 높아요. 특히 고위험 AI(채용, 신용평가, 의료) 에 대한 규제는 EU AI Act와 비슷한 방향으로 갈 거예요.

그리고 개발자로서 한 가지 더 생각해볼 점은, "AI에 모든 걸 맡기지 않는 인터페이스 설계" 예요. 사람이 최종 판단하고 AI는 보조하는 "human-in-the-loop" 구조가 점점 중요해질 거예요. 이게 윤리적이기도 하고, 사실 실용적으로도 더 안전해요.

마무리

교황의 발언이 기술 자체를 거부하는 건 아니에요. "기술은 사람을 위해 존재해야 한다"는 오래된 명제를 다시 강조한 거죠. AI가 너무 빠르게 발전하다 보니 "왜 만드는지"를 잊고 "어떻게 더 강하게 만들지"에만 집중하는 분위기에 대한 경고예요.

여러분은 어떻게 생각하세요? AI 개발에 도덕적/철학적 기준이 필요하다고 보시나요, 아니면 "기술은 중립이고 쓰는 사람이 결정한다"는 입장이신가요? 한국 개발 생태계에서 이런 논의가 더 활발해졌으면 좋겠어요.