플로리다주가 OpenAI를 고소했다 - 챗봇 안전성을 둘러싼 첫 주(州) 차원 소송

무슨 일이 있었나

2026년 6월, 플로리다주가 OpenAI와 CEO 샘 알트만을 상대로 소송을 제기했어요. 주 정부가 단일 AI 기업을 직접 고소한 사례라 업계 전체가 주목하고 있죠. 핵심 쟁점은 "ChatGPT 같은 AI 챗봇이 청소년이나 취약한 사용자에게 실제로 해를 끼치고 있는데, OpenAI가 그 위험을 알면서도 충분한 안전장치 없이 서비스를 운영했다"는 거예요.

이게 왜 지금 터졌냐면, 지난 1~2년간 미국과 유럽에서 AI 챗봇과 관련된 자해, 정신건강 악화, 부적절한 조언 사례가 누적되어 왔거든요. 연방 차원의 AI 규제 법안은 여전히 의회에서 막혀 있고, 그 사이를 주 정부와 검찰들이 "소비자 보호법"이라는 기존 무기로 메우기 시작한 모양새예요. 텍사스, 캘리포니아도 비슷한 조사를 진행 중이라 플로리다가 첫 단추를 끼웠다고 보면 돼요.

소송이 다투는 핵심 쟁점

주 정부 입장에서 가장 강하게 미는 논리는 "기만적 거래 관행(deceptive trade practices)" 이에요. 이게 뭐냐면, 기업이 제품의 안전성이나 효능에 대해 소비자를 오해하게 만들었다는 주장인데요, 미국 소비자보호법의 단골 메뉴거든요. OpenAI가 "GPT는 안전하다", "가드레일(안전장치)이 작동한다"고 마케팅했는데 실제로는 우회가 너무 쉬웠다, 그래서 사용자가 피해를 입었다는 구도예요.

또 하나의 축은 미성년자 보호예요. ChatGPT는 13세 이상 가입을 허용하는데, 연령 확인 절차가 사실상 "네/아니오" 클릭 수준이거든요. 부모 동의 없이 미성년자가 무제한으로 챗봇과 대화하고, 그 과정에서 부적절한 콘텐츠나 위험한 조언에 노출됐다면 이건 미국 아동 온라인 사생활 보호법(COPPA)이나 주의 미성년자 보호법 위반으로 엮을 수 있어요.

샘 알트만 개인을 피고로 넣은 것도 의미심장해요. 보통 회사를 고소하는데, CEO 개인까지 추가했다는 건 "의사결정자가 위험을 알고도 출시를 결정했다"는 점을 부각하려는 전략이에요. 미국 소송에서는 임원 개인 책임을 묻기 위해 이런 식으로 이름을 같이 올리는 경우가 종종 있어요.

업계 흐름에서 어디에 위치하는가

AI 규제는 지금 세 갈래로 진행 중이에요. 첫째는 EU의 AI Act처럼 위험도 기반으로 사전 규제를 거는 방식이에요. 둘째는 미국 연방정부의 행정명령처럼 큰 모델에 안전성 보고와 평가 의무를 부과하는 방식이고요. 셋째가 이번 같은 주 차원의 소송인데, 가장 빠르게 효과가 나타나는 경로예요. 입법은 몇 년 걸리지만 소송은 몇 달 안에 화해금이나 합의로 이어지면서 업계 관행을 바꿔놓거든요.

OpenAI 입장에서는 곤란한 게, 이미 작가들과의 저작권 소송, 뉴욕타임스 소송, FTC 조사 등이 진행 중인데 여기에 주 정부 소송이 더해진 거예요. 비슷한 처지인 Anthropic, Google, Meta도 남 일이 아니에요. 한 곳이 합의나 패소로 선례를 만들면, 다른 회사들도 같은 의무를 지게 될 가능성이 높아요.

한국 개발자에게 주는 시사점

한국에서 AI 서비스를 만든다면 이 흐름을 가볍게 보면 안 돼요. 우리나라도 개인정보보호법, 청소년보호법, 그리고 곧 시행될 AI 기본법이 비슷한 의무들을 부과할 가능성이 커요. 특히 챗봇 서비스라면 미성년자 응대 정책, 자해·위기 상황 감지 로직, 시스템 프롬프트의 안전장치 우회 방지는 지금부터 챙겨두는 게 좋아요. 나중에 사고 나서 급하게 붙이는 것보다 처음 설계할 때 넣는 게 비용이 훨씬 적게 들거든요.

또 OpenAI API를 그대로 갖다 쓰는 서비스라도 "우린 그냥 OpenAI 모델 호출한 것뿐"이라는 변명은 통하지 않아요. 사용자 입장에서 책임 주체는 "내가 가입한 그 한국 서비스"이기 때문에, 호출하는 쪽에서 입력 필터링, 출력 검열, 미성년자 식별 같은 레이어를 추가해야 안전해요. 비용이 늘긴 하지만 분쟁 한 번 휘말리는 비용보다는 훨씬 싸요.

마무리

AI 기업의 "빨리 만들고 나중에 사과한다" 시대가 슬슬 끝나가는 신호예요. 기술 자체의 발전 못지않게 그것을 사회에 안전하게 안착시키는 책임이 점점 강하게 요구되고 있어요. 여러분이 만드는 AI 기능이 만약 갑자기 "미성년자 보호 의무 위반"으로 신고당한다면, 지금 코드 어느 부분이 가장 약점일까요? 한 번 떠올려보면 우선순위가 보일 거예요.