노션(Notion)이 자사 AI 인프라 협력사인 파이어웍스 AI(Fireworks AI)에서 발생한 보안 사고로 일부 고객 워크스페이스가 영향을 받았다고 공지했다. 노션 보안팀의 조사 결과 전체 워크스페이스의 1% 미만이 이 사고에 노출됐을 가능성이 있으며, 노출된 것은 노션 AI와 주고받은 일부 '귀속 불가(unattributable)' 채팅 세션으로 파악됐다. 이번 사안은 서비스 본체가 아니라 외부 추론(inference) 인프라를 통해 데이터가 흘러가는 구조에서 사고가 번질 수 있음을 보여주는 사례다.
무슨 일이 있었나
노션은 두 가지 용도로 파이어웍스를 사용했다. 하나는 고객이 자신의 AI 사용 현황을 이해하도록 돕는 '인사이트(Insights)' 기능의 분류(classification) 작업이고, 다른 하나는 제품 내부에서 오픈 웨이트 모델을 서비스하기 위한 일반 추론 제공자 역할이다. 파이어웍스는 수만 개의 고객사와 수십만 명의 개발자가 사용하는 대형 AI 인프라 플랫폼으로, 이런 공용 인프라 한 곳의 사고가 그 위에 얹힌 여러 서비스로 파급될 수 있다는 점이 이번 건의 구조적 특징이다.
시간순으로 보면 노션은 이달 초 파이어웍스 측으로부터 사고 가능성을 전해 듣고 만일에 대비해 연결을 모두 차단했다. 11월 3일에는 파이어웍스와 시스템 연결을 끊고, 파이어웍스에 있던 데이터를 전부 삭제했으며, 모든 트래픽 전송과 학습(training) 실행을 중단했다. 11월 6일 파이어웍스는 악의적 행위자가 고객 데이터에 접근했을 가능성을 통보했고, 노션은 즉시 내부 조사를 다시 시작했다. 11월 8일 파이어웍스가 새로운 데이터셋을 확인해주면서, 노션은 그 안에 인사이트 기능에 쓰인 노션 AI 채팅 기록이 포함돼 있음을 발견했다.
'귀속 불가'라는 표현의 실제 의미
노션이 반복해 강조하는 '귀속 불가'라는 용어는 실무적으로 중요하다. 노출된 채팅은 누가 작성했는지, 어느 워크스페이스에서 왔는지 라벨이 붙어 있지 않으며, 트랜스크립트에는 도구 호출(tool call) 결과도 들어 있지 않다. 즉 노션 페이지 본문이나 외부에서 끌어온 데이터는 포함되지 않았고, 채팅에 적힌 문구 자체를 넘어서는 식별 정보는 없다는 설명이다. 그 밖의 워크스페이스 데이터는 영향을 받지 않았다.
다만 '식별 정보가 없다'는 것과 '민감 정보가 없다'는 것은 다른 문제다. 라벨이 떨어져 나갔더라도 대화 본문 안에 비밀번호, API 키, 각종 자격 증명을 그대로 붙여 넣었다면 그 내용 자체가 노출된 것이기 때문이다. 노션 역시 해당 데이터를 노출된 것으로 간주할 것을 권고하면서, 문제가 된 기간에 노션 AI에 민감 정보를 입력한 적이 있다면 즉시 해당 자격 증명을 교체(rotate)하라고 안내했다. 이는 실무자가 당장 취해야 할 가장 구체적인 조치다.
영향받은 고객이 할 일
노션은 영향을 받은 1% 미만 워크스페이스의 소유자에게 개별 연락을 취했다고 밝혔다. 반대로 사용자나 워크스페이스 소유자가 노션으로부터 아무런 연락을 받지 못했다면 해당 워크스페이스는 영향 범위에 들지 않으며, 현재로서는 별도 조치가 필요 없다. 영향받은 소유자는 워크스페이스 사이드바의 '?' 메뉴에서 'Security incident review' 항목을 통해 노출 데이터를 안전하게 확인할 수 있다. 단 이 데이터는 모바일에서는 열람할 수 없고 최신 버전의 데스크톱 앱이나 웹 브라우저에서만 접근 가능하다.
제공되는 자료는 해당 워크스페이스의 노출 데이터를 담은 CSV, 그리고 각 채팅과 연관된 사용자 등 추가 메타데이터가 붙은 주석 CSV다. 주석과 메타데이터(__metadata, __analysis로 표시된 필드)는 사고로 노출된 것이 아니라 고객이 자체 영향 분석을 돌릴 수 있도록 노션이 덧붙인 것이며, 이 자료는 워크스페이스 소유자만 볼 수 있다. 소유자는 구성원에게 공유 링크를 제공해 각자 본인에게 해당하는 데이터만 확인하게 할 수도 있다. 다만 이 기능들은 구성원을 관리(managed members)하는 워크스페이스에서만 제공된다.
남는 질문과 한계
별도로 노션은 러닝·얼리 액세스 프로그램(LEAP)에 참여한 고객이 자발적으로 제공한 데이터를 과거에 파이어웍스에서 작업 특화 모델을 실험하는 데 사용했다고 밝혔다. 이번 공지는 노출 범위를 '1% 미만, 귀속 불가 채팅'으로 좁혀 제시하지만, 사고의 최초 원인과 공격 방식, 정확한 노출 기간 같은 핵심 정보는 파이어웍스 측 조사에 달려 있어 노션 공지만으로는 확인되지 않는다. 결국 이번 사례의 교훈은 명확하다. AI 기능을 외부 추론 제공자에 위탁하는 구조에서는 자사 보안만으로 통제할 수 없는 공급망 위험이 늘 남으며, 조직 차원에서는 생성형 AI 입력창에 자격 증명 같은 비밀 정보를 넣지 않도록 하는 운영 원칙이 사고 피해를 줄이는 가장 현실적인 방어선이 된다.