AI에게 '망각'을 가르치다 — 생물학적 기억 감쇠를 적용한 메모리 시스템

사람처럼 잊어버리는 AI, 왜 필요할까요?

요즘 ChatGPT나 Claude 같은 AI에게 '내가 누구인지', '뭘 좋아하는지'를 기억시키려고 메모리(Memory) 기능을 쓰는 분들 많으실 거예요. 그런데 이 메모리, 한 가지 큰 문제가 있어요. 모든 걸 똑같이 중요하게 기억한다는 점이죠. 3년 전에 한 번 농담으로 던진 말도, 어제 진지하게 한 부탁도 똑같은 무게로 저장돼요. 시간이 지나면 메모리는 점점 쓰레기통이 되고, AI는 엉뚱한 옛날 얘기를 자꾸 꺼내는 이상한 친구가 되어버려요.

이 문제를 정면으로 풀어보겠다고 나선 프로젝트가 바로 YourMemory예요. 깃허브에 막 공개된 오픈소스인데, 컨셉이 재미있어요. "사람의 뇌는 어떻게 망각을 하지?" 라는 질문에서 출발해서, 그 원리를 그대로 코드로 옮긴 거거든요. 자기 평가 결과 회상 정확도가 52%라고 하는데, 숫자 자체보다도 '잊는 걸 일부러 설계했다'는 발상이 흥미로운 지점이에요.

에빙하우스의 망각 곡선, 코드가 되다

혹시 '망각 곡선'이라고 들어보셨어요? 19세기 독일 심리학자 에빙하우스가 발견한 건데요, 사람이 뭔가를 외우면 시간이 지날수록 지수함수 형태로 기억이 흐려진다는 법칙이에요. 1시간 뒤엔 50%, 하루 뒤엔 30%, 일주일 뒤엔 10%만 남고… 이런 식이죠. 그런데 이 곡선엔 반전이 있어요. 자주 떠올리고 다시 사용한 기억은 잘 안 잊혀진다는 점이에요. 시험 공부할 때 반복학습이 효과적인 이유가 이거죠.

YourMemory는 정확히 이 메커니즘을 흉내 내요. 모든 기억 조각(memory chunk)에 '강도(strength)' 값과 '마지막 접근 시간(last_accessed)' 값을 붙여둬요. 시간이 흐르면 이 강도가 자동으로 깎여 나가고, 일정 임계값 아래로 떨어지면 검색 결과에서 빠지거나 아예 삭제돼요. 반대로 어떤 기억이 다시 호출되면 강도가 다시 솟아오르죠. 일종의 자가 정리 시스템(self-pruning system)인 셈이에요.

구현 자체는 생각보다 단순해요. 보통 이런 시스템은 임베딩 벡터를 벡터 DB에 저장하고 코사인 유사도로 검색하잖아요? 거기에 시간 가중치를 한 겹 더 얹는 거예요. 검색 점수를 계산할 때 유사도 × exp(-decay_rate × elapsed_time) 같은 공식으로 오래된 기억은 자연스럽게 후순위로 밀려나게 만드는 식이죠. 핵심은 이 decay_rate를 어떻게 튜닝하느냐예요. 너무 빠르면 중요한 정보까지 날아가고, 너무 느리면 결국 또 쓰레기통이 되니까요.

기존 메모리 시스템과 뭐가 다를까

비슷한 영역의 프로젝트로는 Mem0, Letta(MemGPT), Zep 같은 게 있어요. Mem0는 LLM이 직접 "이건 기억할 만하다"고 판단해서 저장하는 방식이고, MemGPT는 운영체제의 가상 메모리처럼 컨텍스트 윈도우와 외부 저장소를 페이징하는 방식으로 접근해요. Zep은 시간 기반 그래프로 사실 관계의 변화를 추적하는 데 강점이 있고요.

YourMemory의 차별점은 '중요도 판단을 LLM에 안 맡긴다'는 거예요. 다른 시스템들은 결국 "이게 중요한 정보냐?"를 LLM한테 물어보는데, 이게 토큰 비용도 많이 들고 일관성도 떨어져요. 반면 YourMemory는 사용 빈도와 시간이라는 객관적 신호만으로 중요도를 결정해요. 사용자가 자주 다시 꺼내 쓰는 기억은 살아남고, 안 쓰는 건 자연 도태되는 거죠. LLM 호출 없이 단순 산술 연산만으로 돌아가니까 가볍고 빨라요.

물론 단점도 있어요. "한 번밖에 안 말했지만 정말 중요한 정보"는 이 시스템에서 쉽게 사라질 수 있어요. 예를 들어 "나는 땅콩 알레르기가 있어" 같은 건 한 번만 말해도 영원히 기억해야 하잖아요. 그래서 실제로는 명시적 고정(pinning) 기능이나 카테고리별 다른 감쇠율 같은 보완 장치가 필요해요. 이 프로젝트가 앞으로 어떻게 발전하는지 지켜볼 만한 부분이에요.

한국 개발자가 써먹어볼 만한 지점

AI 챗봇이나 에이전트를 만드는 분들에게는 참고할 만한 설계 패턴이에요. 특히 사내 어시스턴트나 고객 상담 봇처럼 장기간 누적되는 대화를 다뤄야 한다면, 무한정 쌓이는 메모리를 어떻게 관리할지가 핵심 과제거든요. 단순히 "오래된 거 지우기"가 아니라 "덜 중요한 거 지우기"를 구현하고 싶을 때, 이런 감쇠 모델을 한 번 검토해볼 가치가 있어요.

또 하나 흥미로운 응용처는 추천 시스템이에요. 사용자의 관심사도 시간에 따라 변하잖아요. 작년에 캠핑 장비만 검색하던 사람이 올해는 베이비용품을 보고 있다면, 캠핑 관련 시그널은 자연스럽게 약해져야 정확한 추천이 나와요. 이런 영역에 적용해도 잘 맞아떨어질 패턴이에요.

마무리

"좋은 기억력"의 정의가 바뀌고 있어요. 예전엔 더 많이, 더 정확히 저장하는 게 미덕이었다면 이제는 무엇을 잊을지 잘 판단하는 것이 중요해진 시대예요. 사람의 뇌가 수억 년에 걸쳐 진화시켜 온 망각의 지혜를, AI 시스템에 이식하려는 시도가 본격적으로 시작된 거죠.

여러분이 만드는 AI 서비스의 메모리는 어떤가요? 무한히 쌓이기만 하나요, 아니면 잊을 줄 아는 시스템인가요? 만약 망각 메커니즘을 도입한다면 어떤 정보는 절대 잊으면 안 될까요? 댓글로 의견 나눠주세요.