도입: '금붕어 기억력' 코딩 에이전트 시대, 다른 길을 제시하다
요즘 코딩 에이전트 안 써본 분 거의 없으실 거예요. Claude Code, Cursor, Codex CLI 같은 도구들이 코드 짜고, 버그 잡고, 리팩토링까지 해주는 시대잖아요. 그런데 쓰다 보면 누구나 느끼는 답답함이 두 가지 있거든요.
첫째, 컨텍스트 윈도우 문제예요. 작업이 길어지면 에이전트가 앞에서 했던 얘기를 슬슬 잊어버려요. 컨텍스트 윈도우라는 건 쉽게 말해 AI가 한 번에 기억할 수 있는 '작업 기억' 용량인데요, 이게 꽉 차면 오래된 내용부터 요약되거나 잘려나가요. 둘째, 세션이 끝나면 리셋된다는 거예요. 어제 에이전트한테 우리 프로젝트 구조를 열심히 설명해줬는데, 오늘 새 세션을 열면 처음 온 인턴처럼 백지 상태거든요.
이 두 문제를 정면으로 겨냥한 오픈소스 프로젝트가 나왔어요. 분산 GPU 학습과 오픈소스 강화학습 인프라(PRIME-RL, Verifiers)로 알려진 Prime Intellect 팀이 공개한 Prime Agent인데요, '스스로 개선되는(self-improving) RLM 에이전트'라는 꽤 야심찬 부제를 달고 나왔어요. 단순히 또 하나의 코딩 에이전트가 아니라, 에이전트가 컨텍스트와 기억을 다루는 방식 자체를 다시 설계했다는 점에서 뜯어볼 가치가 충분해요.
기술 분석 1: RLM — 컨텍스트를 '읽는' 게 아니라 '변수로 다루는' 발상
Prime Agent의 첫 번째 핵심 개념은 RLM(Recursive Language Model, 재귀 언어 모델)이에요. 이름이 어렵게 들리는데, 핵심 아이디어는 의외로 직관적이에요.
기존 에이전트는 대화 내용, 파일 내용, 도구 실행 결과를 전부 프롬프트에 차곡차곡 쌓아요. 책을 통째로 외우면서 일하는 방식이죠. 반면 RLM은 컨텍스트를 파이썬 변수처럼 취급해요(prompt-as-a-variable). 이게 뭐냐면, 100만 줄짜리 로그 파일을 전부 '읽어서 기억'하는 대신, log라는 변수에 담아두고 필요할 때 필요한 부분만 잘라서 보는 거예요. 책을 통째로 외우는 대신 목차와 책갈피를 들고 다니는 셈이죠.
이걸 가능하게 하는 게 영속적인 IPython REPL이에요. REPL이라는 건 파이썬 코드를 한 줄씩 입력하면 바로 실행되는 대화형 환경인데요, Prime Agent는 이 환경이 세션 내내 살아있어요. 파일 조작, 셸 명령, 도구 호출, 심지어 서브에이전트 생성까지 전부 파이썬 코드로 처리해요. 예를 들어 100개 파일을 검사해야 한다면, 기존 에이전트는 도구 호출을 100번 반복하면서 결과를 전부 컨텍스트에 쌓지만, Prime Agent는 반복문 하나 짜서 돌리고 요약된 결과만 받아볼 수 있는 거예요.
서브에이전트도 재밌어요. rlm(...)이라는 함수를 호출하면 진짜 자식 에이전트가 생성되고, 그 결과가 함수의 리턴값으로 돌아와요. 여러 AI에게 각자 일을 나눠주고 지휘하는 걸 오케스트레이션이라고 하는데, Prime Agent에서는 이게 별도 프레임워크가 아니라 그냥 함수 호출이에요. 병렬 작업이나 백그라운드 작업을 코드 몇 줄로 시키는 거죠.
기술 분석 2: Continual Harness — 세션이 끝나도 남는 기억
두 번째 축은 Continual Harness(지속 하네스)예요. 하네스라는 건 에이전트를 감싸는 실행 환경, 그러니까 시스템 프롬프트, 메모리, 스킬 설명 같은 '운영 설정' 전체를 말하는데요, Prime Agent는 이걸 세션이 끝나도 사라지지 않는 영속 상태(durable state)로 저장해요.
핵심 기능이 /refine 명령이에요. 에이전트가 지금까지의 작업 궤적을 스스로 돌아보고, '아, 이 프로젝트에서는 테스트를 이 방식으로 돌려야 하는구나' 같은 교훈을 근거와 함께 하네스에 반영하는 거예요. 여기서 설계 철학이 돋보이는데요, 세 가지 안전장치가 있어요.
- 기본 시스템 프롬프트는 불변(immutable): 에이전트가 아무리 스스로를 고쳐도 뿌리가 되는 프롬프트는 절대 못 건드려요.
- 작고 근거 있는 업데이트만: 통째로 갈아엎는 게 아니라 증거에 기반한 소규모 수정만 허용해요.
- 스냅샷과 롤백: 수정 전 상태가 기록돼서 언제든 되돌릴 수 있어요.
스킬이 실행 가능한 파이썬 패키지라는 점도 눈여겨볼 부분이에요. 다른 도구들의 스킬이 대체로 '이렇게 하라'는 텍스트 설명서라면, Prime Agent의 스킬은 실제로 import해서 실행할 수 있는 코드예요. 반복되는 워크플로를 내장 스킬 크리에이터로 패키징해두면, 다음부터는 에이전트가 그 스킬을 불러다 쓰는 거죠.
마지막으로 데몬 기반 세션이 있어요. 터미널을 꺼도 에이전트는 백그라운드에서 계속 돌고, 나중에 다시 접속해서 이어볼 수 있어요. 밤새 돌려야 하는 대규모 마이그레이션 같은 장기 작업을 염두에 둔 설계예요. 실행 중인 에이전트끼리 메시지를 주고받는 것도 가능하고요.
업계 맥락: '무전기 작업자'와 '스크립트 짜는 엔지니어'
기존 에이전트와의 차이를 비유하자면 이래요. Claude Code나 Codex CLI 같은 도구는 무전기로 지시를 주고받는 작업자예요. 파일을 읽으라고 하면 결과를 보고하고, 다음 지시를 받는 왕복이 기본 단위이고, 그 기록이 전부 컨텍스트에 쌓여요. 단순하고 예측 가능하다는 게 큰 장점이에요. 반면 Prime Agent는 현장에서 스스로 스크립트를 짜서 일하는 엔지니어에 가까워요. 유연하고 대규모 작업에 강하지만, 코드 실행 환경을 안전하게 관리해야 하는 부담이 따라오죠.
연구 흐름으로 보면, 컨텍스트를 재귀적으로 쪼개 다루는 RLM 계열 연구와, 에이전트가 스킬 라이브러리를 쌓아가며 성장하는 Voyager 류 연구가 하나의 제품으로 합쳐진 모양새예요. 그리고 Prime Intellect의 큰 그림도 보이는데요, 이 회사는 Verifiers와 PRIME-RL 같은 강화학습 인프라를 만들어온 팀이에요. 에이전트의 작업 궤적이 그대로 강화학습 데이터가 될 수 있는 구조라서, 지금은 하네스(설정) 수준의 자기개선이지만 장기적으로는 모델 자체를 학습시키는 루프까지 내다보고 있다고 해석할 수 있어요.
한국 개발자에게 주는 시사점
실무에서 어디에 써볼 만할까요? 구체적인 시나리오로 보면 이래요.
1. 장시간 레거시 마이그레이션: 수백 개 파일을 새 프레임워크로 옮기는 작업, 보통 에이전트로 하면 세션이 몇 번씩 끊기잖아요. 데몬 세션과 변수로 다루는 컨텍스트 조합이 정확히 이런 작업을 위한 거예요.
2. 반복 업무의 스킬화: 배포 전 체크리스트, 팀 코딩 컨벤션 검사 같은 걸 스킬 패키지로 만들어두면, 매번 프롬프트로 설명할 필요 없이 에이전트가 알아서 불러 써요.
3. 대용량 로그·데이터 분석: 컨텍스트에 다 안 들어가는 자료를 다뤄야 할 때, 통째로 넣는 대신 변수로 잡고 코드로 탐색하는 방식이 빛을 발해요.
다만 도입 전에 고려할 점도 분명해요. 에이전트가 임의 코드를 실행하는 구조라서 샌드박스 환경은 필수예요. 또 하네스가 스스로 바뀌는 만큼, 스냅샷을 확인하고 롤백하는 습관을 들여야 하고요. 그리고 4천 커밋이 넘게 빠르게 움직이는 프로젝트라 API가 계속 바뀔 수 있으니, 프로덕션 핵심 파이프라인에 바로 넣기보다는 사이드 프로젝트나 내부 도구부터 실험해보는 걸 추천해요.
학습 로드맵을 제안하자면 이런 순서예요. ① 지금 쓰는 에이전트 CLI로 기본 워크플로에 먼저 익숙해지고 → ② Prime Agent를 설치해서 REPL 중심 방식이 어떻게 다른지 체감해보고 → ③ 자주 하는 작업 하나를 스킬로 만들어보고 → ④ 공식 문서와 RLM 관련 자료로 개념을 정리하는 거죠.
마무리: '더 큰 컨텍스트'에서 '더 잘 다루는 컨텍스트'로
지난 몇 년간 업계는 컨텍스트 윈도우를 키우는 경쟁을 해왔어요. 그런데 Prime Agent는 다른 질문을 던져요. 다 기억할 필요가 있을까, 잘 참조하면 되지 않을까 하는 거죠. 컨텍스트를 데이터 구조로, 도구를 함수로, 기억을 버전 관리되는 상태로 다루는 이 접근이 표준이 될지는 지켜봐야겠지만, 에이전트 설계의 다음 라운드가 어디서 벌어질지는 분명하게 보여주고 있어요.
여러분은 어떻게 생각하세요? 에이전트가 스스로 설정을 고치는 걸 어디까지 허용하실 건가요? 그리고 매일 반복하는 업무 중에 '이건 스킬로 만들어두고 싶다' 싶은 게 있다면 어떤 건가요? 댓글로 나눠주세요.
🔗 출처: GitHub