OpenAI가 지지하는 일리노이 AI 법안, AI 기업의 책임은 어디까지인가

무슨 일이 있었나요?

OpenAI가 미국 일리노이주에서 발의된 AI 관련 법안을 공개적으로 지지하고 나섰어요. 이 법안의 핵심은 간단히 말해서, AI 모델 자체가 아니라 그 모델을 활용하는 쪽에 법적 책임을 더 무겁게 지우겠다는 거예요. 즉, AI 모델을 만든 연구소(Lab)가 자사 모델이 야기한 모든 피해에 대해 소송을 당할 수 있는 범위를 제한하자는 내용이에요.

이건 AI 업계 전체에 영향을 미칠 수 있는 중요한 법적 프레임워크 논의인데요, 특히 개발자와 기업 입장에서 "AI를 제품에 통합할 때 법적 리스크가 어떻게 되는 건지"와 직결되는 문제라서 자세히 짚어볼게요.

법안의 핵심 내용

이 법안의 골자는 AI 가치 사슬에서 책임의 경계를 명확히 나누자는 거예요. 비유를 들어볼게요. 칼을 만드는 공장이 있고, 그 칼을 사서 요리하는 셰프가 있다고 해요. 셰프가 칼로 누군가를 다치게 했다면, 칼 공장에 책임을 물어야 할까요? 칼 자체에 결함이 있었다면(칼날이 빠진다든지) 공장 책임이 맞지만, 셰프가 부주의하게 사용한 거라면 이야기가 달라지죠.

AI도 비슷한 구조예요. OpenAI 같은 곳이 GPT 모델을 만들고, 수많은 기업과 개발자가 그 모델을 가져다가 다양한 서비스를 만들어요. 의료 진단 보조, 법률 문서 검토, 고객 상담 챗봇 등등. 만약 이 서비스에서 문제가 생겼을 때, 모델을 만든 OpenAI까지 소송할 수 있느냐 없느냐가 이 법안의 핵심이에요.

이 법안은 AI 연구소가 소송 대상이 되는 경우를 상당히 제한하려고 해요. 모델 제공자가 합리적인 안전 조치를 취했다면, 그 모델을 활용한 쪽에서 발생한 문제에 대해서는 모델 제공자에게 책임을 묻기 어렵게 만드는 거죠.

왜 논란이 되나

이 법안에 대한 반응은 극명하게 갈려요.

지지 측 입장은 이래요. AI 모델은 범용 도구예요. GPT 같은 모델은 수십만 가지 용도로 쓰일 수 있는데, 모든 가능한 사용 사례에 대해 모델 제작사가 책임을 진다면 AI 혁신 자체가 멈출 수 있다는 거예요. 마치 프로그래밍 언어를 만든 사람이 그 언어로 작성된 모든 버그에 대해 책임져야 한다면 아무도 프로그래밍 언어를 만들지 않겠죠. 또한 책임 소재가 불명확하면 스타트업이나 중소 AI 기업이 시장에 진입하기 어려워진다는 현실적인 논리도 있어요.

반대 측 입장은 꽤 다른데요. OpenAI 같은 대형 AI 기업이 이 법안을 지지하는 것 자체가 의미심장하다고 봐요. 결국 자기들의 법적 리스크를 줄이려는 로비 아니냐는 거죠. AI 모델의 내부 작동은 제작사만 제대로 이해할 수 있는데, 그 제작사의 책임을 줄여주면 안전한 모델을 만들 인센티브도 줄어든다는 비판이에요. 특히 AI가 잘못된 의료 조언을 하거나, 편향된 판단으로 누군가에게 피해를 줬을 때, 피해자가 구제받을 수 있는 길이 좁아진다는 우려도 있어요.

글로벌 AI 규제 지형에서의 위치

이 법안은 더 넓은 글로벌 AI 규제 흐름 속에서 봐야 이해가 돼요.

유럽연합(EU)은 AI Act를 통해 상당히 엄격한 규제 프레임워크를 만들었어요. AI 시스템을 위험도에 따라 분류하고, 고위험 AI에는 강한 의무를 부과하는 방식이죠. 반면 미국은 연방 차원의 통합 AI 법률이 아직 없고, 주(State) 단위로 제각각 움직이고 있어요. 캘리포니아의 SB 1047 법안이 AI 안전 규제를 시도했다가 주지사 거부권으로 무산된 적이 있고, 이번 일리노이 법안은 그와는 반대 방향, 즉 규제 완화 쪽으로 가고 있는 거예요.

흥미로운 건 OpenAI의 입장 변화예요. 과거에는 AI 안전과 규제의 필요성을 강조하던 OpenAI가, 이제는 자사에 유리한 규제 완화 법안을 적극 지지하고 있거든요. 이건 OpenAI가 비영리에서 영리 기업으로 전환하면서 비즈니스 이해관계가 달라진 것과도 무관하지 않아 보여요.

한국 개발자에게 주는 시사점

"미국 주법이 나랑 무슨 상관이야?"라고 생각할 수 있지만, 실제로는 꽤 관련이 있어요.

첫째, 미국의 AI 규제 방향은 글로벌 표준에 영향을 미쳐요. 한국도 AI 기본법 제정을 추진하고 있는데, 미국과 EU의 접근법을 참고할 수밖에 없거든요. 일리노이 법안처럼 모델 제공자의 책임을 제한하는 방향이 통과되면, 한국의 법 제정에도 비슷한 논리가 적용될 수 있어요.

둘째, AI API를 활용해서 서비스를 만드는 개발자라면 책임 구조를 이해해야 해요. 지금 당장 OpenAI API나 Claude API를 써서 서비스를 운영하고 있다면, 문제가 생겼을 때 누가 책임지는 건지 이용약관을 꼼꼼히 읽어볼 필요가 있어요. 대부분의 AI API 이용약관은 이미 "모델 출력에 대한 책임은 사용자에게 있다"고 명시하고 있거든요.

셋째, 이건 기술의 문제이자 윤리의 문제예요. AI를 활용한 서비스를 만들 때, 법적 최소 기준만 맞추는 것과 사용자를 진정으로 보호하는 것은 다른 이야기예요. 법이 면책해주더라도 사용자에게 해를 끼치는 서비스를 만들면 장기적으로 신뢰를 잃게 되니까요.