무슨 일이 있었나요
AI 업계 인터뷰로 유명한 드와르케시 파텔(Dwarkesh Patel)의 팟캐스트에 AI 연구자 세 명이 나와서 “재귀적 자기개선(recursive self-improvement)”이 얼마나 가까운지를 놓고 토론했어요. 이 주제는 AI 업계에서 가장 뜨겁고 동시에 가장 의견이 갈리는 질문 중 하나예요.
재귀적 자기개선이 뭐냐면, AI가 AI 연구 자체를 수행해서 다음 세대 AI를 더 빠르게 만들고, 그 AI가 또 다음 세대를 더 빠르게 만드는 순환이 걸리는 상황을 말해요. 흔히 “지능 폭발(intelligence explosion)”이라고도 부르는데요. 지금은 사람 연구자 수천 명이 몇 달 걸려 하는 일을 AI가 몇 주, 며칠로 줄이면, 기술 발전 속도가 우리가 따라갈 수 없을 만큼 빨라진다는 시나리오예요.
핵심 내용: 어디서 의견이 갈리나요
토론의 쟁점을 제 나름대로 정리해볼게요.
낙관론의 근거: 이미 AI가 AI 연구를 돕고 있다
현재 대형 연구소에서는 코드 작성, 실험 스크립트 생성, 논문 검색, 데이터 정제 같은 일에 AI 도구가 널리 쓰이고 있어요. METR이라는 평가 기관은 AI가 혼자 처리할 수 있는 작업의 길이가 약 7개월마다 두 배로 늘고 있다는 측정 결과를 내놓기도 했죠. 이 추세가 이어지면 몇 년 안에 “며칠짜리 연구 과제”를 통째로 맡길 수 있다는 계산이 나와요. 낙관론자들은 여기서 순환이 시작된다고 봐요. AI가 실험을 더 많이, 더 빨리 돌리면 좋은 아이디어를 더 빨리 찾고, 그 결과로 나온 AI가 다시 더 빠르게 실험한다는 거죠.
신중론의 근거: 병목은 지능이 아니라 실험이다
반대편 주장은 이래요. AI 연구의 병목은 “아이디어를 생각하는 속도”가 아니라 실험을 돌리는 데 드는 컴퓨팅 자원과 시간이라는 거예요. 대형 모델 하나를 학습시키는 데 수만 개의 GPU로 몇 달이 걸려요. AI 연구자가 아무리 똑똑해도 GPU가 두 배로 늘지 않으면 실험을 두 배로 못 돌려요. 비유하자면, 요리사가 열 배 빨라져도 오븐이 하나면 빵은 그만큼 못 나오는 거죠. 그래서 지능이 늘어도 발전 속도는 컴퓨팅 증가 속도에 묶인다는 거예요.
“연구 감각”은 자동화되나
또 다른 쟁점은 “무엇을 실험할지 고르는 능력”이에요. 연구자들이 ‘테이스트(taste)’라고 부르는 건데, 수천 가지 가능한 실험 중에 될 만한 것을 골라내는 직관을 말해요. 이건 명시적인 규칙으로 배우기 어렵고, 실패 경험과 암묵지에서 나오거든요. 낙관론자는 강화학습으로 충분히 학습 가능하다고 보고, 신중론자는 현재 모델이 “그럴듯한 실험”은 잘 제안하지만 “판을 바꾸는 실험”은 못 고른다고 봐요.
부분 자동화와 완전 자동화의 차이
토론에서 중요하게 다뤄진 또 하나는, 연구 과정의 90%를 자동화하는 것과 100%를 자동화하는 건 완전히 다르다는 점이에요. 90%가 자동화돼도 남은 10%(보통 가장 어려운 판단)에 사람이 필요하면 전체 속도는 그 사람에게 묶여요. 이걸 병렬 처리의 암달의 법칙(Amdahl’s law)에 빗대는데요. 프로그램의 일부만 병렬화하면 아무리 코어를 늘려도 직렬 부분 때문에 속도 향상에 한계가 있다는 원리예요. 연구 자동화도 마찬가지라는 거죠.
업계 맥락
이 논쟁은 작년 “AI 2027”이라는 시나리오 보고서가 나오면서 대중적으로 확산됐어요. 2027년쯤 AI가 AI 연구를 자동화하면서 급격한 발전이 온다는 시나리오였는데, 이후 여러 연구자가 컴퓨팅 병목과 실험 병목을 근거로 반론을 냈죠. 이번 토론은 그 논쟁의 연장선이에요.
한편 실제 연구소들은 이미 “자동화된 AI 연구자”를 내부 목표로 잡고 있어요. OpenAI는 자동화 연구 인턴 수준의 시스템을 목표로 한다고 공개적으로 말했고, 구글 딥마인드의 AlphaEvolve는 알고리즘을 스스로 개선하는 시스템으로 실제 데이터센터 효율을 높였어요. 즉 “된다/안 된다”보다 “얼마나 빨리, 어느 정도까지”가 진짜 질문이에요.
한국 개발자에게 주는 시사점
먼 미래 이야기 같지만 현장에 이미 영향이 있어요. 첫째, 개발 업무의 자동화 논쟁과 구조가 똑같아요. “코딩의 90%가 자동화돼도 나머지 10%가 병목이면 개발자는 여전히 필요하다”는 논리는 그대로 우리 일에 적용되죠. 그 10%가 뭔지, 그러니까 요구사항 판단, 시스템 설계, 트레이드오프 결정 같은 능력을 키우는 게 앞으로 더 중요해져요.
둘째, 실험 인프라의 가치예요. AI 시대에 차별화 요소가 “아이디어”에서 “아이디어를 빨리 검증하는 인프라”로 옮겨간다는 게 이번 토론의 숨은 결론이에요. 이건 회사 단위에서도 마찬가지예요. 테스트 자동화, 배포 파이프라인, 실험 플랫폼이 잘 갖춰진 조직이 AI 도구의 이득을 가장 크게 봐요.
마무리
한 줄로 정리하면, AI가 AI를 개선하는 순환은 시작됐지만, 그 속도는 지능보다 컴퓨팅과 실험 병목에 묶여 있다는 게 현재 논쟁의 중심이라는 거예요.
여러분은 어느 쪽에 더 공감하시나요? 그리고 여러분의 일에서 “자동화 안 되는 마지막 10%”는 무엇이라고 생각하세요?
🔗 출처: Hacker News