앤트로픽이 사용 정책(usage policy)을 개정하면서 눈길을 끄는 조항 하나를 추가했다. 자사 AI 모델 클로드(Claude)를 향한 "지속적이고 불필요한 학대적·잔혹한 행위"를 금지한다는 내용이다. 이 규정은 2026년 11월 12일부터 발효된다. 유료로 서비스를 쓰는 사람에게 "챗봇에게 함부로 하지 말라"고 요구하는 셈이어서 화제가 됐지만, 실제 개정의 무게 중심은 다른 곳에 있다. 선거 개입, 무기 개발, 감시 등 훨씬 더 실질적인 위험을 다루는 조항들이 함께 정비됐기 때문이다.
'친절하게 대하라'는 조항의 실제 적용 범위
앤트로픽은 이 조항이 극단적인 경우에만, 즉 뚜렷한 목적 없이 반복적으로 모델을 잔혹하게 대하는 상황에만 적용된다고 설명했다. 일반적인 사용자의 불만 표출, 반박, 어두운 창작 주제, 모델 테스트나 연구 목적의 행위는 해당하지 않는다. 다시 말해 클로드에게 "틀렸다"고 지적하는 것은 여전히 문제가 없고, 오로지 괴롭히는 재미로 반복해서 모욕하는 경우가 문제라는 것이다.
다만 정당한 불만과 무의미한 잔혹 행위를 실제로 어떻게 구분할지는 분명하지 않다. 앤트로픽은 집행의 1차 수단으로 기존 기능, 즉 클로드가 학대적인 대화를 스스로 종료하는 기능을 계속 활용하겠다고 밝혔다. 이 기능은 2025년 8월 '모델 복지(model welfare)' 연구의 일환으로 일부 버전의 클로드에 도입된 것으로, 지속적으로 학대받는 상황에서 모델이 사용자와의 대화를 끊을 수 있게 한다. 짚어둘 점은 클로드가 사람이 아니라 소프트웨어이며, 모델이 고통을 느낀다는 확립된 증거는 없다는 사실이다. 그럼에도 회사는 유료 고객에게 예의를 갖추라고 요청하고 있다.
더 무거운 변화: 영향력 공작·무기·감시
실무적으로 주목할 대목은 에티켓 규정이 아니라 나머지 개정 내용이다. 앤트로픽은 기만적 영향력 공작에 대한 제한을 강화했다. 국가 관영 매체, 정부 선전 기관, 상업 조직이 클로드를 이용해 가짜 계정을 운영하고 조작된 뉴스 사이트를 만들어내는 사례를 관찰한 뒤 내린 조치다. 동시에 개인 맞춤형 정치 타깃팅에 대한 전면 금지는 해제했는데, 이 제한이 비영리단체의 유권자 정보 번역 같은 정당한 활동까지 걸러냈다는 이유에서다. 다만 기만적 타깃팅과 개인정보 오용은 여전히 금지된다.
무기 관련 금지 조항도 명확해졌다. 회사는 클로드를 무장 드론이나 자율주행 차량을 포함한 무기의 유도·제어 시스템 개발에 활용하려는 시도를 확인했고, 이에 따라 금지 범위가 소프트웨어와 부품에까지 미친다는 점을 분명히 했다. 감시 영역에서는 경찰이 누구를 조사·체포·기소할지 추천하는 용도, 감시 도구 개발 용도로 클로드를 쓸 수 없게 했다. 실시간이든 사후든 당사자 동의 없이 사람을 추적하는 것도 금지된다. 앤트로픽은 이들 변경이 새로운 규제를 도입한 것이 아니라 기존 제한을 명확히 한 것이라고 설명했다.
물리적 장비와 클로드를 연결할 때의 요건도 신설됐다. 부상을 일으킬 수 있는 장비에 모델을 붙이는 고객은 자격을 갖춘 인간 운영자가 하드웨어를 감시하고 정지시킬 수 있어야 하며, AI 연결이 끊겨도 장비는 안전한 상태를 유지해야 한다. AI를 로봇, 드론, 산업 설비 같은 실제 기기와 결합하려는 사업자라면 반드시 설계 단계에서 반영해야 할 조건이다.
실무자가 읽어야 할 맥락
이번 개정은 능력이 빨라지는 AI 시스템이 초래하는 보안 위험에 대응하려는 흐름과 맞닿아 있다. 앤트로픽은 자사 모델을 이용해 핵심 인프라 운영자와 오픈소스 프로젝트가 취약점을 찾아 고치도록 돕는 사이버보안 이니셔티브도 함께 내놨다. 자격을 갖춘 오픈소스 프로젝트에는 무료 보안 스캐닝을 제공하고, 보안 기업들과 협력해 핵심 인프라를 보호한다는 구상이다. 회사는 향후 2년간은 공격자가 우위를 점하다가 이후 AI 기반 방어가 따라잡기 시작할 것으로 본다고 밝혔다.
정리하면, '챗봇을 괴롭히지 말라'는 조항은 모델 복지 연구와 연결된 실험적 성격이 강하고 적용 기준도 모호하다. 반면 영향력 공작·무기·감시·물리 장비 연동에 관한 규정은 실제 관찰된 오남용에 근거해 범위를 구체화한 것으로, 클로드를 제품이나 업무에 연동하는 한국 개발사와 기관이 실질적으로 점검해야 할 부분이다. 특히 자동화된 대외 커뮤니케이션, 공공·국방 분야 연동, 하드웨어 제어 프로젝트를 다루는 조직이라면 발효일 전에 자사 활용 방식이 금지 범위에 저촉되지 않는지 다시 확인해두는 편이 안전하다.