AI 에이전트가 실험실 데모를 넘어 실제 서비스로 넘어오면서, 이들을 어디서 어떻게 돌릴 것인가라는 인프라 문제가 부상하고 있다. 구글에서 출발한 오픈 프로젝트 AX(Agent Executor)는 바로 이 지점을 겨냥한다. AX의 핵심 주장은 단순하다. 에이전트 작업은 기존의 마이크로서비스나 배치 잡과 근본적으로 다른 워크로드이며, 그에 맞는 별도의 실행 계층이 필요하다는 것이다. 개발자는 YAML로 에이전트 작업을 선언하고, AX가 이를 샌드박스에 격리하고 작업 공간을 구성하며 네트워크를 통제하고 대규모 실행까지 맡는 구조다.
왜 기존 오케스트레이터로는 부족한가
AX가 정의하는 에이전트 워크로드의 특징은 '상태를 축적하고, 강한 격리가 필요하며, 모델 API와 도구 서버를 호출하고, 감시하지 않으면 루프를 돌며 비용을 태울 수 있다'는 것이다. 특히 주목할 대목은 실행 패턴이다. 에이전트는 1분 남짓 집중적으로 연산하다가, 모델 응답이나 도구 응답 혹은 사람의 승인을 기다리며 길게 대기한다. 이런 버스트성·장시간·상태 유지형 액터를, 무상태 마이크로서비스를 전제로 설계된 오케스트레이터에 올리면 유휴 샌드박스를 계속 켜 두는 비용이 감당하기 어려워진다. 그렇다고 배치 잡용 스케줄러는 초 단위의 중단·재개를 기본으로 지원하지 못한다. AX는 이 간극을 메우겠다는 것이다.
이를 위해 AX는 네 가지 선언적 프리미티브를 제시한다. 첫째는 태스크로, 신뢰할 수 없는 에이전트 코드를 CPU·메모리 제한이 걸린 샌드박스에서 돌리고 생성·중단·폐기를 값싸게 처리한다. 둘째는 워크스페이스로, 에이전트에 필요한 Git 저장소·MCP 서버·스킬을 나열하거나 목표만 서술하면 작업 시작 전에 모든 샌드박스에 환경을 갖춰 준다. 셋째는 네트워크 정책으로, 허용된 호스트와 포트만 화이트리스트로 열고 들어오는 요청에 자격 증명을 주입한다. 넷째는 모델 설정으로, 모델·파라미터·시크릿을 한곳에서 관리해 키 교체나 모델 버전 고정을 한 번의 적용으로 끝낸다.
액터 기반 런타임과 서브세컨드 재개
기술적 토대는 Agent Substrate라는 컴퓨트 런타임이다. AX는 각 작업을 경량 액터로 실행해, 오케스트레이터 한계에 부딪히지 않고 클러스터당 수십억 개의 동시 에이전트 세션까지 확장할 수 있다고 설명한다. 핵심은 유휴 처리 방식이다. 모델 응답이나 외부 도구 호출, 사람의 응답을 기다리는 에이전트는 체크포인트를 찍고 중단됐다가 1초 이내에 콜드 스타트 없이 되살아난다. 수십 개 작업이 워커 자원을 공유하면서 대기 시간을 여유 연산 능력으로 전환하기 때문에, 에이전트가 실제로 '생각'하고 코드를 돌릴 때만 비용이 발생한다는 것이 AX가 내세우는 경제성의 골자다.
AX는 생성형 AI를 플랫폼에 직접 통합한 점도 강조한다. 예컨대 준비된 환경의 모습을 평범한 영어로 서술하면, AX가 첫 부팅 시 그 목표를 에이전트에 넘겨 툴체인을 설치하고 의존성을 검증하도록 한다. 인터랙티브 코딩 에이전트, 장시간 구동되는 에이전트 서버, 주피터 노트북, 헤드리스 브라우저 테스트, 커스텀 도구 런타임 등이 대상으로 거론된다. 또한 재현 가능한 샌드박스를 대량으로 띄워 트래젝토리를 수집하고 강화학습 루프를 돌리며 에이전트를 대규모로 평가하는 연구용 시나리오도 겨냥한다.
실무자가 짚어야 할 지점
한국의 실무자 관점에서 AX가 흥미로운 이유는, 에이전트 인프라에서 반복적으로 마주치는 문제들, 즉 격리·환경 구성·네트워크 통제·비용 폭주를 선언적 방식으로 묶어 냈다는 데 있다. 신뢰할 수 없는 코드의 샌드박싱과 허용 목록 기반 네트워크 통제는 보안 측면에서 특히 눈여겨볼 만하고, 유휴 시 중단·재개로 대기 비용을 없애는 접근은 에이전트를 프로덕션에 올릴 때의 비용 구조를 바꿀 수 있다. 프로젝트 측은 애플리케이션 개발자와 AI 연구자 모두를 위한 사용성과 빠른 반복, 최소한의 경량 런타임을 지향한다고 밝혔다.
다만 현재 공개된 정보는 설계 철학과 지향점 중심이라는 한계가 분명하다. '클러스터당 수십억 세션'이나 '1초 이내 재개' 같은 수치는 검증 가능한 벤치마크가 아니라 목표에 가깝게 제시돼 있으며, AX 자체가 여전히 구축 중인 프로젝트로 소개된다. 또한 AX는 Agent Substrate에 크게 의존하는 구조여서, 이 런타임의 개방성과 이식성, 특정 환경 종속 여부는 실제 도입을 검토할 때 반드시 따져야 할 부분이다. 구글 딥마인드의 에이전트 런타임 연구와 대규모 격리·재개·스케줄링 경험에서 나온 만큼 방향성은 설득력이 있으나, 실제 성숙도와 운영 안정성은 공개 코드와 사례가 쌓인 뒤에야 판단할 수 있을 것이다.