합류 1년도 안 돼 떠난 OpenAI 윤리 책임자, 반복되는 이탈이 말해주는 것

OpenAI의 윤리 책임자가 합류한 지 1년도 채 되지 않아 회사를 떠났다는 소식이 파이낸셜타임스 보도로 전해졌어요. '또?'라는 반응이 먼저 나올 만한 뉴스인데요. OpenAI에서 안전과 윤리를 담당하던 핵심 인력이 짧은 재직 기간 끝에 떠나는 일이 이번이 처음이 아니거든요. 한 사람의 퇴사는 어느 회사에나 있는 일이지만, 같은 자리에서 같은 패턴이 계속 반복된다면 그건 사람의 문제가 아니라 구조의 문제일 가능성이 높아요. 그래서 오늘은 이 소식을 계기로, AI 회사에서 '윤리 책임자'라는 자리가 왜 이렇게 버티기 어려운 자리인지를 한번 짚어보려고 해요.

처음이 아닌 이탈, 쌓여 온 맥락

OpenAI의 안전·윤리 조직에서 사람이 떠난 역사를 잠깐 돌아볼게요. 2024년에는 공동창업자이자 수석 과학자였던 일리야 수츠케버와, 초정렬(Superalignment) 팀을 이끌던 얀 라이케가 연달아 회사를 떠났어요. 초정렬 팀이 뭐냐면, 언젠가 인간보다 똑똑한 AI가 나왔을 때도 그 AI가 인간의 의도대로 움직이도록 만드는 방법을 미리 연구하던 조직이에요. 그런데 두 리더가 떠난 직후 이 팀 자체가 해체됐고요. 얀 라이케는 퇴사하면서 '안전 문화와 프로세스가 반짝이는 제품에 밀려 뒷전이 됐다'는 말을 공개적으로 남기기도 했어요. 그 뒤로도 AGI 대비 조직을 이끌던 마일스 브런디지를 비롯해 정책·안전 쪽 인력의 이탈이 꾸준히 이어졌죠. 이번 윤리 책임자의 퇴사는 그 연장선에 놓인 사건이라, 재직 기간이 1년이 안 된다는 점이 더 눈에 들어와요.

왜 이 자리는 버티기 힘들까

윤리 책임자라는 자리의 본질은 '브레이크'예요. 제품 조직은 경쟁사보다 하루라도 빨리 출시하는 게 목표인데, 윤리 조직은 출시 전에 '잠깐, 이 기능은 이런 위험이 있으니 검토하고 가자'고 말해야 하는 자리거든요. 회사가 잘나갈수록, 경쟁이 치열할수록 브레이크를 밟는 사람의 발언권은 줄어들기 쉬워요. 액셀을 밟자는 사람은 매출이라는 숫자로 성과를 증명할 수 있지만, 브레이크를 밟자는 사람은 '막아낸 사고'를 숫자로 보여주기 어렵잖아요.

특히 OpenAI는 비영리 연구소로 출발했다가 수십조 원 규모의 투자를 받으며 영리 법인 중심 구조로 재편된 회사예요. '인류에게 이로운 AGI'라는 창업 미션과 '투자금을 회수해야 하는 상업 조직'이라는 현실 사이의 긴장이 구조 자체에 새겨져 있는 셈인데, 윤리 책임자는 바로 그 긴장의 한가운데 서 있는 사람이에요. 이 자리에 오는 사람마다 오래 버티지 못한다면, 조직이 그 역할에 실질적인 권한을 주지 않고 있다는 신호로 읽을 수밖에 없어요.

OpenAI만의 문제는 아니에요

이런 긴장은 사실 업계 전체의 문제예요. 구글에서도 2020년 AI 윤리 팀 공동 리드였던 팀닛 게브루가 대형 언어모델의 위험성을 지적한 논문을 두고 회사와 충돌하다 떠나면서 큰 논란이 됐었죠. 기업 내부의 윤리 조직이 '출시를 실제로 멈출 수 있는 권한'까지 갖는 경우는 드물어요. 그래서 최근 흐름은 기업의 자율 규제에만 맡기지 말고 외부에서 규칙을 세우자는 쪽으로 움직이고 있어요. EU의 AI Act가 대표적이고, 한국도 올해 1월부터 AI 기본법이 시행되면서 고영향 AI에 대한 사업자 책무가 법으로 규정되기 시작했거든요. 내부 윤리 조직이 흔들리는 모습이 반복될수록, 이런 외부 규제의 명분은 더 강해질 거예요.

한국 개발자에게는 어떤 의미일까

'남의 회사 인사 얘기 아닌가' 싶을 수 있지만, 실무와 닿는 지점이 분명히 있어요. 첫째, 우리 중 많은 사람이 OpenAI API 위에서 서비스를 만들고 있잖아요. 벤더의 거버넌스가 흔들린다는 건 모델의 안전 정책, 콘텐츠 필터링 기준, 데이터 처리 방침 같은 것들이 예고 없이 바뀔 수 있다는 뜻이에요. 특정 벤더에 깊이 묶이기보다, 모델 교체가 가능하도록 추상화 계층을 두는 설계가 점점 더 중요해지는 이유죠. 둘째, AI 기본법 시행으로 국내에서도 AI 거버넌스·신뢰성 관련 역할이 늘어날 텐데, 이번 사례는 그 역할이 성공하려면 보고 라인과 권한이 뒷받침돼야 한다는 걸 보여줘요. 조직도에 윤리 팀을 그려 넣는 것과, 그 팀에 출시를 늦출 권한을 주는 건 전혀 다른 문제거든요.

정리하면 이래요. 윤리 책임자의 짧은 재직과 반복되는 이탈은 개인의 선택이라기보다, 상업화 속도와 안전 사이에서 균형을 잡지 못한 조직 구조가 드러나는 방식이에요. 여러분은 어떻게 생각하세요? 기업 내부의 윤리 조직이 실제로 힘을 가지려면 어떤 구조가 필요할까요? 그리고 그게 불가능하다면, 결국 답은 외부 규제뿐일까요?