앤트로픽이 일부 강력한 AI 모델에 '30일 데이터 보관'을 의무화한 진짜 이유

무슨 일이 있었나

보통 "우리는 당신의 데이터를 오래 안 가지고 있어요"가 자랑거리잖아요. 빨리 지울수록 프라이버시에 좋으니까요. 그런데 앤트로픽(Claude를 만드는 회사예요)이 이번에 반대로 가는 정책을 공개했어요. 'Mythos 클래스', 'Fable'이라고 부르는 자사의 특정 모델 등급에 대해서는 사용자와 주고받은 데이터를 최소 30일은 반드시 보관하도록 정한 거예요.

처음 들으면 좀 의아하죠. "아니, 데이터를 빨리 안 지우겠다는 게 정책이라고?" 싶은데요. 여기엔 나름의 이유가 있어요.

왜 일부러 보관하게 만들까

핵심은 안전 모니터링이에요. 모델이 강력해질수록(코드를 짜고, 도구를 호출하고, 긴 작업을 자율적으로 수행하는 능력이 커질수록) 누군가 이걸 나쁜 목적으로 쓸 가능성도 같이 커지거든요. 그런데 데이터를 즉시 지워버리면, 나중에 "이 계정이 위험한 패턴으로 모델을 악용한 것 같은데?" 하는 신호가 떠도 돌아가서 확인할 자료 자체가 없어요.

이게 뭐냐면, CCTV를 생각하면 쉬워요. 평소엔 아무도 안 보지만, 사고가 나면 "그때 영상 좀 봅시다" 하잖아요. 만약 녹화를 안 했으면 사고 조사가 불가능하죠. 30일 보관은 바로 그 '녹화분'을 남겨두는 거예요. 오남용이 의심될 때 사후 분석(retrospective analysis)을 하거나, 안전 관련 조사에 응하려면 최소한의 기록이 남아 있어야 하니까요.

흥미로운 점은 이게 고객이 끌 수 없는 항목이라는 거예요. 보통 기업용 계약에서는 "우리 데이터는 0초 만에 지워주세요(Zero Data Retention)" 같은 옵션을 협상할 수 있는데, 이 특정 모델 등급에 대해서는 그 협상이 막혀 있어요. 즉 "이 모델을 쓰려면 30일 보관에 동의해야 한다"는 조건부 제공인 셈이죠. 회사 입장에선 안전을 못 지킬 바엔 강력한 모델을 안 내주겠다는 신호이기도 해요.

업계 맥락에서 보면

사실 데이터 보관 정책은 AI 회사마다 미묘하게 달라요. OpenAI도 API 사용 데이터를 악용 모니터링 목적으로 일정 기간(보통 30일 정도) 보관하고, 엔터프라이즈 고객에게는 Zero Data Retention을 열어주는 구조를 운영해 왔어요. 구글 역시 비슷하게 등급별로 정책이 갈리고요.

그런데 앤트로픽의 이번 발표가 조금 다른 결인 건, 모델의 위험도(capability)에 따라 보관 정책을 차등화했다는 점이에요. "모든 모델 똑같이"가 아니라 "이 정도로 강력한 놈은 더 엄격하게 추적한다"는 거죠. 모델이 셀수록 안전 장치도 무거워지는, 일종의 비례 원칙이에요. AI 안전을 회사의 정체성으로 내세워 온 앤트로픽다운 접근이라고 볼 수 있어요.

한국 개발자에게 주는 시사점

실무에서 LLM API를 붙여 서비스를 만든다면, 이건 그냥 남의 회사 약관 얘기가 아니에요. 우리나라는 개인정보보호법 적용을 받잖아요. 사용자가 입력한 프롬프트에 개인정보나 민감한 사내 정보가 들어가면, 그게 외부 AI 회사 서버에 30일간 보관된다는 뜻이거든요.

그래서 체크해야 할 게 몇 가지 생겨요. 첫째, 어떤 모델을 쓰느냐에 따라 데이터 보관 조건이 다를 수 있다는 걸 계약/약관에서 확인해야 해요. "제일 좋은 모델 쓰자"가 곧 "제일 긴 보관 정책에 동의하자"일 수 있으니까요. 둘째, 사용자에게 받은 데이터를 그대로 LLM에 넘기기 전에 민감정보 마스킹을 거치는 파이프라인을 두는 게 안전해요. 셋째, 개인정보 처리방침에 "AI 처리 과정에서 데이터가 외부에 일시 보관될 수 있다"는 점을 솔직하게 고지하는 게 분쟁을 줄여줘요.