대형 언어 모델의 추론 능력을 끌어올리는 최근 흐름은 크게 두 갈래로 나뉜다. 하나는 모델이 생각의 과정을 텍스트로 길게 풀어내도록 하는 사고 사슬(chain-of-thought) 방식이고, 다른 하나는 그 과정을 겉으로 드러내지 않고 모델 내부의 은닉 상태에서 반복 계산으로 처리하는 잠재 추론(latent reasoning) 방식이다. 후자는 추론 과정을 토큰으로 일일이 출력하지 않아도 되기 때문에, 연산의 깊이를 늘리면서도 출력 길이에 묶이지 않는다는 기대를 받아 왔다. '순환 루프 트랜스포머(Recurrent Looped Transformer)'는 바로 이 잠재 추론 계열에서 트랜스포머의 계산 구조 자체를 순환적으로 재해석하려는 시도다.
이 접근의 핵심 아이디어는 프롬프트와 응답을 하나의 순환 계산으로 이어 붙인다는 데 있다. 일반적인 디코더 모델은 토큰마다 정해진 수의 블록을 통과시켜 다음 토큰을 예측하고, 각 토큰은 이전 토큰의 결과를 참조하지만 계산 자체는 토큰 단위로 끊긴다. 반면 순환 루프 트랜스포머는 프롬프트를 처리하고 응답을 생성하는 전 과정을 끊김 없는 하나의 반복 경로로 취급한다. 입력을 이해하는 단계와 답을 만들어 내는 단계가 별개의 절차가 아니라, 같은 순환 계산의 연속된 구간이 되는 셈이다.
왜 '무한한 시간적 깊이'인가
원문이 강조하는 표현은 '무한한 시간적 깊이(infinite temporal depth)'다. 그 근거는 계산 경로가 토큰이 늘어날수록 함께 길어진다는 데 있다. 각 토큰은 순환 경로를 디코더 전체만큼 연장하며, 따라서 t개의 토큰을 생성한 뒤에는 경로가 대략 t와 디코더 블록 수(L_D)의 곱, 즉 tL_D개의 디코더 블록을 지나게 된다. 주목할 점은 이렇게 전체 경로가 길어지는 동안에도 토큰 하나당 통과하는 블록 수는 고정되어 있다는 것이다. 즉 개별 토큰의 연산 비용은 일정하게 유지되지만, 시퀀스가 길어질수록 모델이 누적적으로 밟는 계산의 깊이는 계속 쌓인다. 파라미터 수를 늘리지 않고도 시간 축을 따라 깊이를 확장한다는 발상이다.
학습과 추론을 실용화하는 장치
이런 구조는 개념적으로는 매력적이지만, 순진하게 구현하면 학습과 추론 모두에서 감당하기 어려운 비용을 낳는다. 원문은 이를 완화하기 위한 몇 가지 공학적 장치를 제시한다. 먼저 이미 알고 있는 토큰에 대한 인코더 작업과, 서로 독립적인 디코더 업데이트는 묶어서 일괄 처리한다. 또한 가중치와 메모리를 재사용하고, 활성값(activation)을 체크포인트로 저장해 재계산에 활용하되, 이 과정에서 기준이 되는 원래의 계산 결과를 그대로 보존하도록 한다. 순환 구조의 긴 경로를 그대로 메모리에 올리는 대신, 필요한 지점의 상태를 저장해 두었다가 되살리는 방식으로 자원 부담을 줄이려는 것이다.
여기서 한 걸음 더 나아가, 전체 이력을 현재 파라미터 아래에서 다시 구성한다는 점이 눈에 띈다. 프롬프트 단계의 상태와 디코더의 슬라이딩 윈도우 어텐션(SWA) 키·값 캐시까지 포함해 과거 계산을 현재 시점 파라미터 기준으로 재현하는 것이다. 동시에 실제 샘플러가 만들어 낸 행동 확률(behavior probabilities)을 기록해 두고 이를 그대로 유지한다. 이는 강화학습이나 정책 기반 학습에서 흔히 문제가 되는, 데이터를 수집한 시점의 정책과 현재 학습 대상 정책 사이의 불일치를 다루기 위한 장치로 읽힌다. 기록된 확률을 실제 샘플링 동작에 묶어 둠으로써 학습 신호의 정합성을 지키려는 의도다.
실무자가 새겨둘 점
한국의 실무자 입장에서 이 작업이 시사하는 바는, 추론 성능을 반드시 모델 크기 확대나 긴 출력 생성으로만 얻을 필요는 없다는 관점의 전환이다. 고정된 토큰당 비용을 유지하면서 시간 축으로 계산 깊이를 늘리는 구조는, 서비스 지연이나 출력 토큰 비용에 민감한 환경에서 대안적 설계 축을 제시한다. 또한 활성값 체크포인트, 가중치·메모리 재사용, 샘플러와 연동된 확률 기록 같은 요소는 순환 계산을 실제 시스템에 얹을 때 반드시 마주치는 엔지니어링 과제를 정직하게 드러낸다는 점에서 참고할 만하다.
다만 한계도 분명히 해 둘 필요가 있다. 제공된 원문은 개념과 계산 구조를 서술하는 수준이며, 구체적인 벤치마크 수치나 비교 실험, 실제 학습 규모에 대한 정보는 담겨 있지 않다. '무한한 시간적 깊이'라는 표현 역시 경로가 원리적으로 무한정 길어질 수 있다는 구조적 성질을 가리키는 것이지, 성능이 무한히 향상된다는 뜻은 아니다. 긴 순환 경로를 되살려 재계산하는 방식이 실제 하드웨어에서 어느 정도의 처리량과 정확도를 내는지는 별도의 검증이 필요하다. 따라서 지금 단계에서는 검증된 제품 기술이라기보다, 트랜스포머의 계산을 시간 축으로 재구성하려는 연구적 제안으로 받아들이고 후속 실험 결과를 지켜보는 편이 합리적이다.