LLM 에이전트는 지금도 거의 모든 사고 과정을 사람의 언어, 즉 텍스트로 풀어낸다. 질문을 받으면 생각을 문장으로 길게 펼치고, 그 문장을 바탕으로 도구를 호출하고, 결과를 다시 문장으로 정리한다. 이 방식은 사람이 중간 과정을 읽고 검증할 수 있다는 장점이 있지만, 추론이 길어질수록 토큰 소모와 지연 시간이 기하급수적으로 늘어난다는 약점을 동시에 안고 있다. 반대편에는 모델 내부의 연속적인 벡터 공간에서 사고를 진행하는 '잠재추론(latent reasoning)' 계열의 연구가 있다. 잠재추론은 언어로 일일이 풀어쓰지 않아 효율적이지만, 도구를 직접 호출하기 어렵고 내부에서 무슨 판단이 일어났는지 들여다보기 힘들다는 한계를 갖는다.
Together가 공개한 Hybrid Reasoning Agents(HybridAgents)는 이 두 갈래를 하나의 생성 과정 안에서 오가도록 묶으려는 시도다. 핵심은 에이전트가 하나의 문제를 푸는 동안 '잠재 공간에서 생각하는 구간'과 '텍스트로 행동하는 구간'을 상황에 따라 동적으로 전환한다는 데 있다. 효율이 중요한 내부 사고는 잠재 모드에서 압축적으로 처리하고, 도구 호출이나 외부 환경과의 상호작용처럼 언어가 반드시 필요한 지점에서는 다시 텍스트 모드로 빠져나온다.
구조: HybridLink와 연속 작업 메모리
이 전환을 가능하게 하는 것이 HybridLink라는 경량 모듈이다. HybridLink는 텍스트 모드와 잠재 모드 사이를 매끄럽게 넘나들도록 중개하는 역할을 한다. 여기에 더해 에이전트는 연속적인 작업 메모리(continuous working memory)를 두어 여러 턴에 걸친 하이브리드 맥락을 손실 없이 보존한다. 즉 잠재 모드에서 진행한 사고와 텍스트 모드에서 수행한 행동이 턴을 넘어가면서도 끊기지 않고 이어지도록 설계했다는 것이다. 연구진은 이 구조 덕분에 도구를 통합한 에이전트 본연의 능력을 유지하면서도, 잠재적 사고를 직접 들여다볼 수 있게 만들었다고 설명한다. 잠재추론의 고질적 약점이던 '불투명성'을 구조 차원에서 완화하려 한 셈이다.
학습: HybridSFT와 HybridRL
아키텍처만으로는 두 모드의 협응이 안정적으로 작동하지 않기 때문에, 하이브리드 추론을 위한 별도의 사후학습(post-training) 알고리즘이 함께 제시됐다. 먼저 HybridSFT는 백본 모델이 HybridLink와 보조를 맞추도록 가르쳐 도구가 결합된 하이브리드 생성을 안정화한다. 그 위에서 HybridRL은 '언제 잠재 공간에서 사고하고 언제 텍스트로 행동할 것인가'라는 판단 자체를 강화학습으로 끌어올린다. 전환의 타이밍을 사람이 규칙으로 못 박는 대신, 모델이 과제에 맞춰 학습하도록 한 것이 특징이다.
평가는 3가지 모델 규모에서 수학·과학·의학·검색·에이전트 추론을 아우르는 11개 벤치마크로 이뤄졌다. 텍스트 기반 방식과 잠재 방식을 모두 포함한 최신 LLM 에이전트 및 에이전트 프레임워크와 비교했을 때, HybridAgent는 성능을 10.4% 끌어올리면서 토큰은 35.5~54.7% 줄였고, 추론 속도는 1.8~2.6배 빨라졌으며 비용은 2.7~3.7배 절감됐다고 보고됐다. 성능과 효율을 맞바꾸는 일반적인 트레이드오프와 달리, 두 지표를 동시에 개선했다는 점이 이 결과의 눈에 띄는 대목이다.
실무 관점에서 이 접근이 갖는 의미는 분명하다. 에이전트를 장시간 돌릴수록 비용의 상당 부분이 추론 토큰에서 발생하는데, 사고의 효율적인 부분을 잠재 공간으로 넘기면 같은 과제를 더 적은 토큰과 더 짧은 지연으로 처리할 수 있다. 특히 멀티턴으로 도구를 반복 호출하는 에이전트 워크로드에서는 토큰과 지연이 복리로 누적되기 때문에, 절반 가까운 토큰 절감은 운영 비용 구조에 직접적인 영향을 준다. 코드와 데이터가 공개돼 있어 자체 백본에 적용해 재현을 시도해볼 여지도 있다.
다만 해석에는 신중할 필요가 있다. 공개된 내용은 성능·토큰·속도·비용의 비교 수치와 구조 설명에 집중돼 있을 뿐, 어떤 기준 모델들과 비교했고 과제별로 편차가 어떻게 나뉘는지는 요약 수준에서 확인하기 어렵다. 11개 벤치마크의 성격이 다양한 만큼 10.4%라는 평균 개선폭이 모든 영역에서 고르게 나타나는지, 잠재 모드로 전환된 사고의 '검사 가능성'이 실제로 사람이 신뢰할 만한 수준인지는 별도의 검증이 필요한 부분이다. 효율과 투명성을 함께 겨냥했다는 방향성은 분명 주목할 만하지만, 자사 환경에 도입을 검토한다면 공개된 코드로 핵심 수치를 직접 재현해보는 과정을 거치는 편이 안전하다.