재귀적 자기개선(RSI)이라는 개념은 새롭지 않다. I. J. 굿은 1965년 인간의 모든 지적 활동을 능가하고 스스로 더 나은 기계를 설계하는 '초지능 기계'를 상상했고, 유드코프스키는 2008년 이를 'AI가 자신의 지능을 만들어내는 인지 기계 자체를 개선하는 피드백 루프'로 정의했다. 다만 현대의 논의에서 이 루프는 반드시 모델이 자기 가중치를 직접 고쳐 쓰는 방식일 필요가 없다. 오히려 모델이 학습 파이프라인과 배포 시스템을 개선하고, 그렇게 개선된 환경이 더 나은 후속 모델을 만들어내는 넓은 의미의 순환이 더 현실적이다. 최근 프론티어 연구소들에서 연구 개발 속도가 급격히 빨라졌다는 관찰도 이 맥락에 놓인다.
이 글이 주목하는 것은 그 순환의 핵심 부품인 '하네스(harness)'다. 하네스는 원시 모델을 실제 세계의 맥락과 연결하는 층으로, 모델이 어떻게 사고하고 계획하며 도구를 호출하고 행동하는지, 맥락을 어떻게 인식·관리하고 산출물을 저장하며 결과를 평가하는지를 조율하는 시스템 전체를 뜻한다. Claude Code나 Codex 같은 코딩 에이전트 제품의 성공은, 사전학습 직후의 순수 지능만큼이나 이 배포 계층의 설계가 중요하다는 점을 보여준다.
프롬프트에서 옵티마이저 코드로
초기 에이전트 프레임워크가 'LLM + 메모리 + 도구 + 계획 + 행동'의 조합이었다면, 하네스 엔지니어링은 여기에 워크플로 설계(루프 엔지니어링), 평가, 권한 제어, 지속적 상태 관리를 더한다. 더 이상 프롬프트 템플릿의 문제가 아니라 런타임과 소프트웨어 시스템 설계에 가깝다. 원문은 하네스를 운영체제에 비유한다. OS처럼 복잡한 로직을 캡슐화하되 인터페이스는 단순하게 유지해야 하고, 설정·도구 인터페이스·프로토콜은 산업 전반에서 점차 표준화될 것이라는 전망이다. 실제로 Claude Code, Codex, OpenCode, Cursor 계열 에이전트의 핵심 루프 인터페이스는 이미 상당히 안정화됐다.
최적화 대상은 단계적으로 깊어진다. 명령 프롬프트 → 구조화된 맥락 → 워크플로 → 하네스 코드 → 옵티마이저 코드로 이어지는 진행이다. 모델이 더 강력해질수록 우리는 더 복잡한 대상과 더 일반적인 방법으로 옮겨간다. 프롬프트 엔지니어링에서 이미 목격한 패턴이기도 하다. 지시 튜닝과 추론 능력이 좋아지면서 수동적인 프롬프트 트릭의 비중은 줄었지만, 목표·제약·맥락·평가를 명시할 필요 자체는 사라지지 않았다.
맥락을 진화하는 자산으로 다루기
장기 과업에서 반복적으로 나타나는 원칙은 '풍부한 상태를 단순하게 통제하기'다. 실험 로그, 코드 diff, 오류 추적, 과거 롤아웃 기록 같은 산출물은 모델의 학습된 컨텍스트 윈도를 금세 넘어선다. 따라서 하네스는 전체 워크플로와 로그를 맥락에 담지 말고 파일 시스템에 지속 상태로 남겨야 한다. 파일을 읽고 쓰고 편집하는 능력은 LLM의 기초 역량이므로, 파일 형태의 영속 메모리는 모델 자체의 발전과 자연스럽게 함께 좋아진다. 서브에이전트를 병렬로 띄울 때도 결과가 일시적 채팅 맥락에만 남으면 곧 사라지지만, 파일·로그·상태 기록으로 저장하면 중단 후 복구와 자기 실행 이력에 대한 추론이 가능해진다.
연구 흐름은 이 아이디어를 층층이 쌓아 올린다. ACE는 맥락을 점점 길어지는 프롬프트가 아니라 진화하는 '플레이북'으로 다루며, 전체 프롬프트를 다시 쓰는 대신 식별자와 설명을 가진 항목형 불릿을 결정론적 로직으로 병합해 맥락 붕괴와 간결성 편향을 막는다. 다만 갱신 규칙과 워크플로는 여전히 수작업이다. MCE는 '맥락을 어떻게 관리할지'(메커니즘)와 '맥락에 무엇이 담기는지'(내용)를 분리해, 스킬 진화를 메타 수준에서, 맥락 최적화를 기반 수준에서 이중 최적화로 돌린다. 더 나아가 Meta-Harness는 무엇을 저장·검색·제시할지 결정하는 코드 자체를 최적화 대상으로 삼는다. 이름의 '메타'는 하네스를 최적화하는 하네스라는 뜻이며, 제안자 역시 코딩 에이전트고 최종 산출물은 파레토 프런티어 위의 하네스 후보군이다.
워크플로를 탐색 문제로
워크플로 설계는 도메인 전문가가 손으로 짤 수도 있다. 자동 연구 분야의 AI Scientist는 아이디어 제안부터 코드 작성, 실험, 결과 분석, 논문 작성, 동료 검토까지 파이프라인을 구축했고, ScientistOne은 모든 주장을 증거 원천으로 추적하는 검증 가능성을 중심 제약으로 삼았다. Autodata는 도전자·약한 해결자·강한 해결자·검증자를 두고 '강한 해결자는 풀지만 약한 해결자는 못 푸는' 적정 난이도의 데이터를 합성한다. 다만 합성된 과업이 약한 모델의 미세조정에만 쓰이고 강한 모델을 개선하지 못한다면, 이는 생성된 프롬프트 분포에 대한 간접 증류에 가까워 RSI다움이 옅어진다는 한계도 원문은 지적한다.
설계 공간이 방대한 만큼 워크플로 자체를 탐색 문제로 볼 수 있다. ADAS는 에이전트 설계를 최적화 문제로 정식화해 메타 에이전트가 새로운 워크플로를 제안하게 하고, AFlow는 워크플로를 노드가 LLM 호출, 엣지가 코드 논리 연산인 그래프로 표현한다. 하네스 설계가 실행 가능한 탐색 공간이 되는 순간, 강력한 코딩 에이전트는 인간 엔지니어가 쓰던 바로 그 설계 공간을 스스로 파고들 수 있다는 것이 공통된 교훈이다. RSI가 하네스 엔지니어링에 얼마나 기댈지 정확히 예측하긴 어렵지만, 단기적 경로가 모델의 직접적 가중치 재작성으로 시작될 가능성은 낮다. 많은 하네스 개선이 결국 모델의 핵심 행동으로 내재화되더라도, 외부 맥락과 도구를 연결하는 인터페이스만큼은 계속 남을 것이라는 전망은 실무자에게 시사하는 바가 크다. 지금 다듬어 둔 파일 기반 상태 관리, 명시적 병렬 처리, 검증 가능한 워크플로는 모델이 아무리 똑똑해져도 폐기되지 않을 자산에 가깝다.