교황이 AI에 대해 말했어요, 그런데 왜 우리가 귀 기울여야 할까요?

교황의 첫 회칙이 "AI"를 다뤘다는 것

뉴스 제목만 보면 좀 의아할 수 있어요. "교황과 AI?" 종교 지도자가 기술 얘기를 하는 게 어떤 의미가 있을까 싶죠. 그런데 이번 일은 단순한 코멘트가 아니에요. 교황 레오 14세의 첫 회칙(encyclical) 인 "Magnifica Humanitas" 에서 AI를 정면으로 다뤘다는 점이 중요해요.

회칙이 뭐냐면, 가톨릭 교회에서 교황이 전 세계 신자들에게 보내는 가장 권위 있는 공식 문서예요. 한 교황이 자신의 임기 동안 몇 편 안 쓰는 무거운 문서고, 첫 회칙은 그 교황의 임기 전체 방향성을 보여주는 신호탄으로 읽혀요. 그런 자리에 AI를 올렸다는 건 "이 시대의 가장 중요한 문제 중 하나로 AI를 본다"는 선언이에요.

교황의 핵심 메시지는 명확해요. "AI는 인류 전체에 봉사해야 하며, 소수의 권력자에게 봉사해서는 안 된다." 짧지만 묵직한 문장이에요.

무슨 얘기를 했냐면요

Religion News의 보도에 따르면 교황은 AI가 가져올 변화를 부정하지 않아요. 오히려 AI가 의료, 교육, 과학 연구에서 인류에게 큰 기여를 할 수 있다고 인정해요. 다만 우려하는 지점이 분명해요. 첫째, AI 개발이 소수의 거대 기업과 국가에 집중되어 있다는 점. 둘째, 그 결과 AI의 이익이 사회 전체로 흐르지 않고 일부에게 쏠릴 위험이 크다는 점. 셋째, 노동, 사생활, 인간 존엄성이 위협받을 수 있다는 점이에요.

특히 흥미로운 건 "인간을 대체하는 AI"와 "인간을 보완하는 AI"의 구분이에요. 교황은 후자를 지지하지만 전자에 대해서는 깊은 우려를 표해요. 자율 무기 시스템에 대한 명확한 반대 입장도 포함돼 있고, AI에 의한 인간 판단의 위임이 어디까지 허용될 수 있는지에 대한 윤리적 한계도 짚었어요.

그리고 또 하나 눈에 띄는 게 "AI 거버넌스의 국제 규범" 을 촉구한 점이에요. 한 나라나 한 기업이 결정할 게 아니라, 전 인류 차원에서 합의가 필요하다는 거죠.

왜 이게 기술 업계 사람들에게 의미가 있을까요

솔직히 말하면 종교 지도자의 발언이 실리콘밸리 엔지니어에게 직접적인 영향을 주진 않을 수 있어요. 하지만 이 발언은 "AI에 대한 윤리적 우려가 이제 종교, 정치, 학계, 시민사회의 메인스트림 의제가 되었다" 는 신호로 읽어야 해요.

조금 시간을 거슬러 올라가보면, 이전 교황 프란치스코도 "Rome Call for AI Ethics"라는 이니셔티브를 통해 IBM, 마이크로소프트 등 빅테크 기업들과 AI 윤리 원칙에 서명한 적이 있어요. 이번 회칙은 그 흐름의 강화 버전이에요. 그리고 같은 시기에 EU AI Act가 발효되고, 미국에서도 AI 안전성 관련 행정명령이 나오고, 유엔에서도 AI 결의안이 채택되는 등 전 세계 거버넌스 흐름이 강해지고 있어요. 교황의 발언은 이 흐름에 도덕적 무게를 더하는 거예요.

기술적으로 어떤 함의가 있을까요

AI 시스템을 만드는 개발자 입장에서 "AI가 소수에게 봉사한다"는 우려는 추상적인 게 아니라 굉장히 구체적인 기술적 문제로 이어져요.

첫째, 모델 접근의 집중이에요. GPT-4, Claude, Gemini 같은 프론티어 모델들은 모두 거대 기업이 소유하고 있어요. 학습에 필요한 GPU와 데이터가 너무 비싸서 다른 주체가 따라잡기 어렵죠. 그래서 오픈 웨이트 모델(Llama, Mistral, Qwen 등)의 존재가 단순한 기술 선택이 아니라 "AI의 민주적 접근"이라는 윤리적 의미를 갖게 돼요.

둘째, 데이터의 공정성이에요. AI는 학습 데이터에 들어 있는 편향을 그대로 학습해요. 영어 데이터가 압도적으로 많다 보니 비영어권 사용자들이 받는 서비스 품질이 떨어지고, 특정 직업/성별/인종에 대한 고정관념도 학습돼요. 한국어 화자로서 우리는 이걸 일상에서 느끼고 있죠.

셋째, 노동과 자동화예요. 코드 생성 AI가 주니어 개발자의 일자리에 어떤 영향을 미칠지, 이미지 생성 AI가 일러스트레이터들의 일에 어떤 변화를 가져올지 같은 질문들은 회칙이 짚는 "AI가 인간 존엄성을 어떻게 다루는가"의 직접적인 사례예요.

한국 개발자에게 주는 시사점

한국은 AI 강국이 되고 싶어 하는 나라예요. 정부도 기업도 "AI 패권"이라는 말을 자주 쓰죠. 그 자체는 나쁜 게 아닌데, 그 과정에서 "누구를 위한 AI인가" 라는 질문을 놓치면 곤란해요. 우리가 만드는 서비스가 사용자에게 어떤 영향을 주는지, 데이터를 어떻게 수집하고 어떻게 동의를 받는지, AI 결정에 대한 설명을 어떻게 제공하는지 같은 질문들이 점점 더 실무의 문제가 되어가고 있어요.

실무 개발자 입장에서 당장 할 수 있는 건 의외로 단순해요. AI 기능을 만들 때 "이게 사용자에게 정말 도움이 되는가, 아니면 우리 회사의 KPI에만 도움이 되는가"를 한번씩 자문해보는 거예요. 모델 카드, 데이터 카드 같은 문서를 작성하는 습관도 좋아요. "이 모델이 어떤 데이터로 학습됐고, 어떤 한계가 있는가"를 명시하는 거죠. 그리고 AI 시스템에 인간 감독(human-in-the-loop) 지점을 의도적으로 설계해두는 것도 중요해요.

마무리

AI가 빠르게 발전하는 만큼, AI를 둘러싼 윤리·정치·종교적 논의도 빠르게 깊어지고 있어요. 교황의 첫 회칙이 AI를 다뤘다는 건 이 논의가 더 이상 "기술 업계 내부"의 것이 아니라는 신호예요. 여러분이 만들고 있는 AI 기능, 혹은 매일 쓰고 있는 AI 도구는 "인류 전체에 봉사하는 방향"으로 가고 있다고 생각하세요? 어떤 점이 그렇고, 어떤 점이 그렇지 않은지 한번 이야기 나눠봐요.