LLM에게 '진짜 기억'을 입히는 새 구조, Δ-Mem이 던지는 질문

"LLM이 어제 한 대화를 오늘도 기억하게 만드는 법"

지금 GPT나 Claude 같은 LLM을 쓰다 보면 답답한 순간이 있죠. 어제 길게 대화한 내용이 오늘이 되면 깨끗하게 날아가 있거든요. "이걸 어떻게 해결하지?" 하는 고민에서 등장한 게 RAG(검색 기반 생성)나 파인튜닝, 긴 컨텍스트 윈도우 같은 방법들이었어요. 그런데 각자 한계가 명확해요.

RAG는 외부에 저장된 문서를 매번 검색해서 가져오는 방식이라 "기억"이라기보다는 "검색"에 가까워요. 파인튜닝은 학습 비용이 너무 크고 자주 업데이트하기 어렵죠. 컨텍스트 윈도우를 키우는 방법은 길어질수록 추론 비용이 폭증해요. 100만 토큰 컨텍스트를 자랑하는 모델도 실제로는 중간 부분을 잘 기억 못 하는 "lost in the middle" 현상이 있고요.

그래서 등장한 게 Δ-Mem(Delta Memory)라는 새 접근법이에요. 이 논문은 "LLM에게 진짜 기억을 어떻게 줄 것인가"라는 질문에 대해 효율적인 답을 제시해요.

Δ-Mem이 무엇이 다른가

Δ-Mem의 핵심 아이디어는 이름 그대로 '델타(변화량)'예요. 새로운 정보가 들어왔을 때 모델 전체를 다시 학습시키는 게 아니라, 기존 메모리 상태에서 얼마나 달라졌는지 그 변화만 저장하는 거예요.

비유하자면 이래요. 여러분이 일기를 쓴다고 생각해보세요. 매일 인생 전체를 처음부터 새로 쓸 수는 없잖아요? 그러니까 "어제와 비교해서 오늘 무엇이 바뀌었나"만 적어두는 게 효율적이죠. 또는 git diff를 생각해도 좋아요. 파일 전체를 매번 저장하지 않고 변경 사항만 누적하는 방식과 비슷해요. Δ-Mem은 모델의 메모리 상태도 그런 식으로 관리해요.

기술적으로는 모델 내부의 키-밸류 캐시(KV cache)나 별도의 메모리 모듈에 들어가는 표현을 효율적으로 업데이트하는 방식을 써요. 새 정보가 들어오면 그 정보가 기존 메모리에 어떻게 영향을 주는지 작은 델타 행렬로 표현하고, 필요할 때 누적해서 적용하는 거죠. 이렇게 하면 메모리 크기는 천천히 늘어나면서도 검색이나 활용은 빠르게 할 수 있어요.

또 중요한 건 이게 온라인(online) 학습 방식이라는 거예요. 즉, 미리 모아둔 대량 데이터로 한꺼번에 학습하는 게 아니라 대화나 입력이 들어올 때마다 점진적으로 메모리를 갱신해요. 사용자와 상호작용하면서 모델이 사용자에 대해 점점 더 잘 알아가는 그런 구조가 가능해지는 거죠.

기존 방법들과의 비교

비슷한 흐름의 연구로 MemGPT, Letta, MemoryBank 같은 게 있었어요. 이들은 대부분 외부에 별도 저장소를 두고 필요할 때 가져오는 RAG형 접근이었죠. 또 Transformer-XL이나 Compressive Transformer 같은 모델은 모델 내부에서 과거 토큰을 압축해 들고 다니는 방식이었고, Mamba나 RWKV 같은 상태 공간 모델은 아예 무한 컨텍스트를 흘려보내는 구조를 시도했어요.

Δ-Mem이 흥미로운 건 이런 접근들의 중간 지점에 있다는 거예요. 외부 저장소를 두기는 하는데, 그게 단순한 텍스트 검색이 아니라 모델 내부 상태의 델타 형태로 저장되어 있어서 활용이 훨씬 자연스러워요. 또 모델 자체를 건드리지 않기 때문에 기존 LLM 위에 메모리 모듈만 얹어서 쓸 수 있다는 장점도 있어요.

성능 측면에서도 의미가 있어요. 대화 턴이 누적된 상황에서도 메모리 비용이 선형적으로 증가하는 게 아니라 거의 일정하게 유지되는 게 가능해져요. 이게 가능한 이유가 바로 "델타만 저장"하는 구조 덕분이에요.

왜 지금 이 연구가 중요한가

AI 에이전트가 본격적으로 실용화되면서 장기 기억(long-term memory)은 가장 큰 숙제 중 하나가 되었어요. 코딩 에이전트가 일주일 전에 짠 코드의 맥락을 기억하지 못한다면, 또는 고객 응대 챗봇이 어제 손님이 말한 내용을 다시 물어본다면, 사용자 경험이 무너지죠.

OpenAI도 ChatGPT에 메모리 기능을 추가했지만, 내부적으로는 단순 텍스트 저장 + RAG에 가깝다고 알려져 있어요. Δ-Mem 같은 연구는 그보다 훨씬 근본적으로 "모델 내부에 어떻게 정보를 누적할 것인가"를 다루기 때문에, 다음 세대 메모리 시스템의 토대가 될 가능성이 커요.

한국 개발자에게 주는 시사점

당장 프로덕션에 Δ-Mem을 그대로 가져다 쓰기는 어려워요. 논문 단계 연구이고, 안정적인 구현체가 나오기까지는 시간이 좀 걸릴 거예요. 하지만 LLM을 활용한 에이전트나 챗봇을 만드는 분이라면 메모리 설계의 새로운 패러다임으로 알아두면 좋아요.

특히 SaaS 형태로 LLM 서비스를 만들고 있다면, 지금 쓰고 있는 RAG 기반 메모리의 한계가 어디인지 다시 점검해볼 만해요. 사용자가 1년 동안 누적된 대화를 가지고 있을 때, 그걸 벡터DB로 다 검색하면서 운영하는 게 효율적인지, 아니면 Δ-Mem 같은 누적형 구조가 더 맞는지 비교해볼 시점이에요.

또 한 가지, 한국어처럼 토큰이 많이 소비되는 언어에서는 이런 효율화 기법이 비용에 직접적으로 영향을 줘요. 같은 대화 길이라도 한국어는 영어 대비 토큰이 1.5~2배 더 들거든요. 메모리 효율 개선은 곧 비용 절감이에요.

정리하면

Δ-Mem은 "변화량만 저장한다"는 단순하지만 강력한 아이디어로 LLM 메모리 문제를 풀어내려는 시도예요. 아직 연구 단계지만, AI 에이전트의 장기 기억을 어떻게 설계할지에 대한 좋은 힌트를 줘요. 여러분은 지금 LLM에 기억을 입힐 때 어떤 방식을 쓰고 계세요? 그리고 Δ-Mem 같은 누적형 구조가 RAG를 대체할 수 있을까요?