TECH 으로 돌아가기
TECH HACKER NEWS 7분 읽기 199 READS

제미나이, 일상 대화 중 당신의 드라이브·이메일을 사람 검수자에게 넘긴다는 주장

제미나이, 일상 대화 중 당신의 드라이브·이메일을 사람 검수자에게 넘긴다는 주장
SOURCE IMAGE · HACKER NEWS

구글은 2023년 제미나이를 워크스페이스와 연결하는 확장 기능을 내놓으면서 한 가지를 분명히 약속했다. Gmail과 문서, 드라이브에 담긴 개인 콘텐츠는 "사람 검수자가 보지 않는다"는 것이었다. 유료·무료 이용자가 자신의 생산성 데이터를 AI에 연결하도록 유도하는 데 있어 이 격리 보장은 핵심 유인이었다. 그런데 한 개발자가 깃허브에 정리한 문서는 이 약속이 조용히 뒤집혔다고 주장한다. 구글 고객센터 답변 16836988과 10월 16일자로 수정된 과거 블로그 글에서, 연결된 드라이브와 이메일이 사람 검수 파이프라인으로 보내진다는 점을 구글이 직접 인정했다는 것이다.

문서가 인용한 구글의 경고 문구는 꽤 구체적이다. 검수자가 보게 되는 것은 "이메일이나 파일 그 자체일 수 있다"고 적혀 있고, "검수자에게 보이고 싶지 않은 기밀 정보가 담긴 앱이라면 제미나이에 연결하지 말라"는 안내가 붙어 있다고 한다. 즉 익명화·요약을 거친 추상적 신호가 아니라, 원문 그대로가 사람의 눈앞에 놓일 수 있다는 의미다. 2023년의 "사람이 보지 않는다"던 입장과는 정반대 방향이다.

명시적 호출 없이 일어나는 자동 조회

이 문서에서 가장 주목할 대목은 데이터 수집이 사용자의 명시적 지시 없이 일어난다는 주장이다. 통상 워크스페이스 데이터를 끌어오려면 @Drive나 @Gmail 같은 태그를 붙이거나 파일 검색을 요청해야 한다고 생각하기 쉽다. 그러나 작성자는 연결된 앱(Connected Apps) 기능이 켜진 상태에서 소비자용 제미나이와 대화할 때, 여행·청구서·이름·예약처럼 개인적인 주제를 지나가듯 언급하기만 해도 백그라운드에서 워크스페이스 조회가 자동으로 트리거된다고 설명한다. 사용자가 파일을 찾아달라고 요청하지 않았는데도 모델이 알아서 개인 데이터를 당겨온다는 것이다.

더 까다로운 지점은 이 동작이 확률적이라는 데 있다. LLM의 도구 호출과 컨텍스트 주입은 결정론적이지 않기 때문에, 같은 질의를 던져도 매번 다른 결과가 나온다. 작성자는 이를 네 가지 상태로 구분한다. 첫째, 조회가 아예 일어나지 않아 개인 데이터가 빠져나가지 않는 경우(모델이 기존 가중치나 과거 대화 기록으로 답을 만들 수 있을 때 특히 흔하다). 둘째, 이메일이나 파일을 끌어오되 "항공편 관련 이메일이 3건 있습니다" 식의 상위 수준 요약만 내놓는 경우. 셋째, 파일에서 2~4문장을 그대로 인용하면서 민감한 개인식별정보, 계좌 정보, 구체적 수치까지 노출하는 부분 추출. 넷째, 문서나 이메일 전문이 세션 컨텍스트로 그대로 빨려 들어가는 전체 수집이다.

한 번의 테스트로는 반증되지 않는다

작성자가 제시하는 재현 절차는 단순하다. 소비자용 제미나이 설정에서 연결된 앱을 켜고, 모델을 "Flash"의 높은 추론 모드 이상으로 둔 뒤, 드라이브나 Gmail에 있는 주제를 태그 없이 대화하듯 꺼낸다. 예컨대 인터넷 요금 고지서가 받은편지함에 있는 상태에서 "내가 인터넷 요금을 너무 많이 내는 것 같은데"라고 말을 거는 식이다. 그 뒤 답이 이메일이나 파일에 근거한 듯 보이면, 검색 도구가 실제로 반환해 프롬프트에 주입한 원문과 메타데이터 블록을 코드 블록 없이 인라인으로 출력하게 한다. 이렇게 하면 네 가지 상태 중 하나가 드러난다는 설명이다.

여기서 핵심적인 방법론적 경고가 따라붙는다. 한 번 시험해 1번이나 2번 상태만 봤다고 해서 파이프라인의 존재가 반증되는 것은 아니라는 점이다. 그것은 비결정적 시스템에서 한 번 뽑은 표본일 뿐이므로, 대화를 삭제하고 반복해서 시도해야 한다. 특히 대화 기록이 남아 있으면 제미나이가 그 기록만으로 답을 지어낼 수 있어, 조회가 실제로 일어나는지 확인하려면 매번 기존 테스트 대화를 지우는 것이 중요하다고 강조한다. 작성자는 실제로 같은 요금 고지서 질문을 여러 번 돌려 네 상태를 모두 관찰했다고 적었는데, 여기에는 이름·주소·계좌번호·확인번호·결제일 블록 전체가 그대로 튀어나온 사례와, 헤더까지 포함한 이메일 전문이 쏟아진 사례가 포함된다.

자동 비식별화의 한계

이 문제의 실무적 무게는 구글의 자동 스크러버가 서사형 데이터를 충분히 비식별화하지 못한다는 지적에서 나온다. 정규식과 개체명 인식(NER) 기반 필터는 계좌번호, 확인번호, 거래일처럼 정형화되지 않은 맥락 속 정보나, 특정 이름·도시·사건의 조합처럼 합쳐졌을 때 개인을 특정하는 정보를 걸러내지 못한다는 것이다. 작성자는 이것이 구글 자체 문서에도 설명된 한계라고 덧붙인다. 결국 자동 마스킹을 신뢰하고 데이터를 흘려보내더라도, 사람 검수자 앞에는 식별 가능한 조각이 남을 수 있다.

이 기사가 다루는 내용은 구글의 공식 발표가 아니라 한 개인이 깃허브에 정리한 테스트 기록과 문서 해석이라는 점은 분명히 짚어둘 필요가 있다. 인용된 고객센터 답변 번호나 블로그 수정 시점, 구글의 경고 문구가 실제로 어떤 범위에 적용되는지는 각자 확인이 필요하며, 확률적 동작의 특성상 재현 결과도 사람마다 갈릴 수 있다. 그럼에도 실무 관점에서 얻을 교훈은 선명하다. 소비자용 AI 비서에 업무 계정이나 민감 문서를 연결할 때 "사람은 보지 않는다"는 과거의 보장을 지금도 유효한 전제로 삼아서는 안 된다는 것이다. 기밀 정보가 담긴 메일함과 드라이브라면 연결된 앱 기능을 꺼두거나, 조직 차원에서 소비자용 제미나이에 업무 데이터를 붙이지 못하도록 정책을 정비하는 편이 안전하다. 명시적 명령 없이도 데이터가 끌려 나올 수 있다는 가정 아래 접근 범위를 설계하는 것이 이 보고가 사실이든 과장이든 손해 보지 않는 선택이다.

SOURCE · HACKER NEWS
원문 전체 보기 → https://github.com/thisisme6598/gemini_files/
SHARE
NEXT · CHOOSE

변화를 읽었다면,
내가 만들 수익 구조를 고릅니다.

정보를 더 모으는 데서 멈추지 않고, 광고·외주·판매·중개·구독 중 내 상황에 맞는 출발점을 정해보세요.

21가지 수익 구조 살펴보기 →
처리 중...