「AI가 한 말도 결국 구글이 한 말이다」 독일 법원의 의미심장한 판결

무슨 일이 있었냐면요

요즘 구글에서 뭔가 검색하면 맨 위에 'AI 개요(AI Overviews)'라는 게 뜨죠. 검색 결과 링크들을 일일이 안 눌러봐도, AI가 알아서 요약해서 답을 딱 보여주는 기능인데요. 편하긴 한데, 가끔 이 AI가 사실과 다른 엉뚱한 말을 천연덕스럽게 적어놓을 때가 있어요. 이걸 보통 'AI 환각(hallucination)'이라고 부르는데, 그럴듯한 거짓말이라고 보면 돼요.

이번에 독일의 한 법원이 바로 이 지점에 대해 아주 중요한 판결을 내렸어요. 핵심은 이거예요. 「AI 개요가 내뱉은 잘못된 답변은 제3자의 말이 아니라, 구글 본인의 말이다. 따라서 구글이 책임져야 한다.」

왜 이게 중요하냐면요

지금까지 플랫폼 기업들은 '우리는 그냥 정보를 보여주는 통로일 뿐'이라는 논리로 책임을 피해왔어요. 예를 들어 검색 결과에 누가 명예훼손 글을 올렸어도, 구글은 '그건 그 사이트가 쓴 거고 우리는 링크만 걸었을 뿐'이라고 빠져나갈 수 있었죠. 이걸 '중개자 책임 면책'이라고 해요.

그런데 AI 개요는 상황이 달라요. 다른 사이트의 문장을 그대로 보여주는 게 아니라, 구글의 AI가 직접 문장을 새로 생성해서 마치 자기 답인 것처럼 내놓잖아요. 독일 법원은 바로 이 점을 짚었어요. '네가 직접 만든 문장이니, 그건 남의 말이 아니라 네 말이다'라는 거죠. 그러니 그 내용이 누군가를 깎아내리는 거짓이라면, 그 책임은 고스란히 구글에게 있다는 판단이에요.

이번 사건은 한 사업자에 대해 AI 개요가 사실과 다른 부정적인 정보를 생성한 게 발단이 됐어요. 피해자 입장에선 '구글이 내 평판을 망가뜨렸는데, 구글은 AI 핑계만 댄다'는 상황이었던 거죠.

기술적으로 보면 어떤 의미냐면요

LLM(거대 언어 모델)은 본질적으로 '다음에 올 가장 그럴듯한 단어'를 확률로 이어붙이는 기계예요. 그래서 진실을 '아는' 게 아니라 '그럴듯하게 들리는 문장'을 만드는 거라, 환각이 구조적으로 따라올 수밖에 없어요. 구글도 AI 개요 하단에 '실수할 수 있다'는 면책 문구를 달아두죠.

하지만 법원은 그 면책 문구가 책임을 없애주지 않는다고 봤어요. 비유하자면, 식당에서 '음식에 문제 생겨도 책임 안 집니다'라고 벽에 써붙였다고 해서, 상한 재료로 손님을 탈나게 한 책임이 사라지지 않는 것과 비슷해요. 결과물을 내가 만들어 내놓는 이상, '조심하세요'라는 경고만으로는 면죄부가 안 된다는 거죠.

업계 맥락에서 보면요

이 판결은 단순히 구글 하나의 문제가 아니에요. 지금 마이크로소프트의 코파일럿, 오픈AI의 챗GPT 검색, 퍼플렉시티(Perplexity) 같은 'AI가 직접 답해주는' 서비스들이 우후죽순 나오고 있잖아요. 이들 모두 똑같은 법적 리스크를 안고 있는 거예요.

유럽은 원래 개인정보보호(GDPR)나 AI 규제(EU AI Act)에서 전 세계 기준을 먼저 세워온 지역이라, 이번 독일 판결도 다른 나라 법원이 참고하는 선례가 될 가능성이 커요. 미국은 표현의 자유와 플랫폼 면책(통신품위법 230조)을 폭넓게 인정하는 편이라 결이 다르지만, 'AI 생성물의 책임은 누구에게'라는 질문은 결국 전 세계가 풀어야 할 숙제거든요.

한국 개발자에게 주는 시사점

AI 챗봇이나 RAG(검색 증강 생성, 외부 자료를 찾아 답을 만드는 방식) 서비스를 만드는 분들이라면 이 판결이 남 일이 아니에요. '우리 서비스가 생성한 답변에 대해 회사가 법적 책임을 질 수 있다'는 전제로 설계해야 한다는 신호거든요.

실무적으로는 ▲답변의 출처(근거 링크)를 명확히 보여주기 ▲민감한 인물·기업 정보에 대한 안전장치 두기 ▲사실관계가 중요한 영역에선 생성 답변을 검증하는 단계 추가하기 같은 대비가 점점 필수가 될 거예요. 단순히 '면책 문구 한 줄' 달아두는 걸로는 부족해질 가능성이 높아요.