무슨 일이 있었나요?
GitHub에 Lossless-memory라는 프로젝트가 올라왔어요. 이름 그대로 '손실 없는 메모리', 그러니까 AI 어시스턴트가 사용자와 나눈 대화나 정보를 절대 요약하지 않고 원본 그대로 보관하는 개인용 AI 메모리 시스템이에요. 이게 왜 이야깃거리냐면, 지금 대부분의 AI 메모리 기능은 정반대로 동작하거든요. 요약해서 압축하는 게 기본이에요. 그런데 이 프로젝트는 그 기본 전제에 정면으로 문제를 제기하고 있어요.
AI 메모리, 이게 뭐냐면
ChatGPT나 Claude 같은 챗봇과 대화하다 보면 '이 친구가 지난주에 내가 말한 걸 기억했으면 좋겠다'는 생각이 들죠. 그런데 언어 모델 자체는 기억이 없어요. 매번 대화를 시작할 때 백지 상태예요. 대화 중에 앞 내용을 기억하는 것처럼 보이는 건 지금까지의 대화 전체를 매번 다시 입력으로 넣어주기 때문이에요. 이 입력 공간을 컨텍스트 윈도우라고 부르는데, 크기에 한계가 있어요. 요즘 모델은 수십만 토큰까지 받긴 하지만, 몇 달치 대화를 다 넣을 수는 없고 넣을수록 비용과 속도가 나빠져요.
그래서 등장한 게 메모리 시스템이에요. 대화가 끝나면 중요한 내용을 따로 저장해두고, 다음 대화 때 관련 있는 것만 꺼내서 컨텍스트에 넣어주는 거죠. 문제는 '뭘 저장할 것인가'예요. 지금 널리 쓰이는 방식은 언어 모델한테 '이 대화에서 기억할 만한 사실을 정리해줘'라고 시켜서 요약본을 저장하는 거예요. ChatGPT의 메모리 기능이 '사용자는 파이썬을 주로 쓴다' 같은 짧은 문장을 저장하는 게 바로 이 방식이고요.
요약의 문제: 무엇이 사라지나
요약은 편리하지만 손실 압축이에요. 사진을 JPEG로 저장하면 용량은 줄지만 원본 픽셀은 돌아오지 않는 것과 같아요. 예를 들어 여러분이 어시스턴트에게 '우리 팀은 PostgreSQL 15를 쓰는데, 12월에 16으로 올릴 계획이고, 그때 pgvector 확장도 같이 넣을 거야'라고 말했다고 해볼게요. 요약 단계에서 이게 '사용자 팀은 PostgreSQL을 사용함'으로 줄어들면, 버전, 일정, 확장 계획이 전부 날아가는 거예요. 더 나쁜 건, 요약을 만드는 모델이 뭐가 중요한지를 저장 시점에 판단한다는 점이에요. 그때는 사소해 보였던 정보가 석 달 뒤에 결정적으로 필요해질 수 있는데, 이미 버려진 뒤죠.
요약을 여러 번 거듭하면 문제는 더 커져요. 요약의 요약을 만들다 보면 원래 없던 내용이 슬쩍 끼어드는 일도 생겨요. 이게 모델의 환각(hallucination)이 메모리에 고정되는 경우인데, 한번 잘못 저장되면 계속 잘못된 사실을 '기억'하는 셈이에요.
손실 없는 접근: 그럼 어떻게 하나
Lossless-memory의 접근은 단순해요. 원본을 그대로 저장하고, 필요할 때 검색해서 꺼낸다는 거예요. 대화 기록, 문서, 메모를 원문 그대로 쌓아두고, 새 질문이 들어오면 그와 관련된 원문 조각을 찾아서 컨텍스트에 넣어주는 방식이죠. 이건 사실 RAG(검색 증강 생성, 모델이 답하기 전에 관련 문서를 먼저 찾아서 참고하게 하는 기법)의 원리를 개인 메모리에 적용한 거라고 보시면 돼요.
그럼 뭐가 어려울까요? 첫째, 저장 용량이 계속 커져요. 요약은 자연스럽게 용량을 관리해주지만 원본 보관은 그런 게 없어요. 다만 텍스트는 생각보다 가벼워서, 개인이 몇 년간 나눈 대화도 수백 MB 수준이라 요즘 저장 장치에서는 큰 문제가 아니에요. 둘째가 진짜 어려운 부분인데, 검색 품질이에요. 원본이 다 있어도 필요한 조각을 못 찾으면 없는 거나 마찬가지거든요. 그래서 이런 시스템은 보통 임베딩 기반 벡터 검색(문장의 의미를 숫자 벡터로 바꿔서 비슷한 의미끼리 찾는 방식)과 키워드 검색을 섞어 쓰고, 시간 정보까지 활용해서 '최근 것'에 가중치를 주는 식으로 정확도를 높여요. 이 프로젝트의 구체적인 구현 방식은 저장소를 직접 살펴보시는 게 정확해요.
업계 맥락
AI 에이전트 메모리는 지금 활발하게 실험 중인 분야예요. Mem0, Zep 같은 서비스는 요약과 그래프 구조를 조합해서 '사실'을 추출하고 관계를 관리하는 쪽이고, Letta(예전 MemGPT)는 모델이 스스로 메모리를 읽고 쓰는 운영체제 같은 구조를 제안했어요. 대체로 업계 흐름은 '똑똑하게 압축하자'였는데, Lossless-memory는 '압축 자체가 문제'라는 반대 방향이에요. 컨텍스트 윈도우가 계속 커지고 토큰 비용이 떨어지는 추세를 보면, 이 반대 방향이 점점 현실적인 선택지가 되고 있기도 하고요.
한국 개발자에게 주는 시사점
챗봇이나 에이전트를 만들고 계시다면, 메모리를 설계할 때 '요약할 것인가, 원본을 보관할 것인가'를 의식적으로 결정하셔야 해요. 고객 상담 봇처럼 정확한 이력이 중요한 경우에는 원본 보관 쪽이 안전하고, 가벼운 개인화 정도라면 요약이 효율적이에요. 둘을 섞는 것도 가능해요. 요약본은 빠른 참고용으로 쓰고, 근거가 필요하면 원본으로 내려가는 2단 구조죠.
개인용으로 써보고 싶으시다면 이 프로젝트처럼 로컬에 원본을 쌓아두는 방식이 프라이버시 면에서도 유리해요. 내 대화 기록이 외부 서비스의 요약 모델을 거치지 않으니까요.
마무리
한 줄로 정리하면, AI 메모리에서 요약은 편리하지만 정보를 잃고, 원본 보관은 검색만 잘 되면 잃을 게 없다는 거예요.
여러분은 AI 어시스턴트가 뭘 기억해주길 바라시나요? 요약된 '사실'만 기억하는 것과 대화 원문을 전부 기억하는 것 중 어느 쪽이 더 믿음이 가시는지 궁금해요.
🔗 출처: Hacker News