생성형 AI를 업무에 도입할 때 실무자가 가장 먼저 확인해야 할 항목 중 하나는 자신이 입력한 데이터와 모델이 생성한 결과가 어디에 쓰이는지다. 프랑스의 AI 기업 미스트랄(Mistral)은 최근 고객지원 문서를 통해, 사용자의 입력·출력 데이터가 경우에 따라 자사 모델 학습 프로그램에 포함될 수 있다고 명시하고 그 통제 방법을 정리했다. 여기서 말하는 데이터에는 대화 내용뿐 아니라 업로드한 문서, 기타 사용자가 제공한 콘텐츠가 모두 포함된다. 핵심은 사용자가 이 처리에 대한 통제권을 유지하며, 언제든 학습 프로그램에서 빠질 수 있는 권리(옵트아웃)를 가진다는 점이다.
제품마다 다른 기본값
주목할 부분은 서비스와 플랫폼에 따라 기본 설정이 다르다는 것이다. 미스트랄의 대화형 서비스 Vibe의 일반 사용자는 기본적으로 학습에 참여하는 상태로 시작하며, 설정에서 직접 옵트아웃해야 한다. 반면 기업용(Enterprise) Vibe 고객은 기본적으로 학습에서 제외된 상태이고, 참여 여부를 결정하는 옵트인 토글이 관리자(admin) 수준에서 관리된다. 즉 개인 사용자는 '켜져 있는 것을 꺼야' 하고, 기업 고객은 관리자가 명시적으로 켜지 않는 한 데이터가 학습에 쓰이지 않는 구조다. 이 차이는 개인이 무심코 쓰던 서비스를 조직 차원에서 도입할 때 전제 조건이 달라진다는 뜻이기도 하다.
기업용 Vibe에서 옵트아웃을 확정하려면 관리자 패널의 프라이버시(Privacy) 섹션에서 '당신의 상호작용을 모델 학습에 사용하도록 허용' 토글을 비활성화하면 된다. 특히 Vibe에 첨부하거나 업로드한 문서는 모두 입력 데이터로 간주되므로, 내부 자료가 모델 개선에 활용되는 것을 막으려면 이 설정을 점검할 필요가 있다. 미스트랄은 옵트아웃이 확정되면 해당 사용자의 입력·출력 데이터를 더 이상 모델 학습 목적으로 사용하지 않는다고 설명한다.
모바일 앱과 스튜디오·API
모바일 앱에서는 경로가 조금 다르다. iOS와 안드로이드 모두 애플리케이션의 설정(Settings) 페이지로 들어가 계정(Account) 항목 아래의 '데이터 및 계정 관리(Data & Account Controls)'를 선택한 뒤, 그 패널에서 '데이터 공유 활성화(Enable data sharing)' 체크박스를 해제하면 학습 프로그램에서 빠질 수 있다. 개발자와 조직이 직접 다루는 미스트랄 스튜디오(Mistral Studio)와 관련 API 서비스의 경우, 관리자 패널의 좌측 내비게이션에서 프라이버시 메뉴를 열고 '익명 개선 데이터(Anonymous improvement data)' 섹션의 토글을 끄면 API 호출과 관련 데이터가 서비스 개선에 쓰이지 않도록 할 수 있다.
실무에서 놓치기 쉬운 지점
실무자가 반드시 기억해야 할 대목은 각 토글이 독립적으로 동작한다는 점이다. Vibe의 옵트아웃과 API의 옵트아웃은 별개이며, 한쪽을 껐다고 해서 다른 쪽까지 자동으로 꺼지지 않는다. 채널마다 개별적으로 설정해야 한다는 뜻이다. 조직에서 챗봇 형태의 Vibe와 개발용 API를 동시에 쓰고 있다면, 두 경로를 각각 확인하지 않을 경우 한쪽으로는 여전히 데이터가 흘러갈 수 있다. 여기에 개인용과 기업용의 기본값 차이까지 겹치면, '한 번 꺼두면 끝'이라는 가정이 실제로는 위험할 수 있다.
결국 미스트랄의 이번 정리는 새로운 정책이라기보다 흩어져 있던 옵트아웃 절차를 서비스별로 명시한 안내에 가깝다. 그럼에도 실무적으로는 의미가 작지 않다. 계약서상 데이터 처리 조항과 별개로, 실제 제품 화면에서 어떤 토글이 어떤 상태로 설정돼 있는지를 확인하고 캡처해 두는 것이 규정 준수(compliance)와 내부 감사 측면에서 안전하기 때문이다. 다만 미스트랄의 문서만으로는 옵트아웃 이전에 이미 수집된 데이터의 처리, 로그 보관 기간, 옵트아웃이 서비스 품질에 미치는 영향 등은 확인되지 않는다. 민감한 문서나 코드를 다루는 조직이라면 도입 전에 이 부분을 계약과 별도 문의를 통해 분명히 해 둘 필요가 있다.