AI가 거짓말하면 누가 책임지나 — 독일 법원이 구글에 던진 질문

검색창에 질문을 던지면 이제 링크가 아니라 완성된 답변이 돌아옵니다. 편리하죠. 그런데 그 답변이 거짓이라면 어떻게 될까요. 독일 법원이 이 질문에 대해 의미심장한 답을 내놨습니다. AI가 지어낸 거짓말도 결국 구글의 말이라는 겁니다.

무슨 일이 있었나

구글은 검색 결과 맨 위에 ‘AI Overviews’라는 기능을 붙여놨습니다. 사용자가 검색하면 여러 웹페이지를 종합해 AI가 요약 답변을 만들어주는 기능인데요. 한국에서도 구글 검색을 쓰면 종종 보이는 그 회색 박스입니다.

문제는 이 AI가 가끔 사실이 아닌 내용을 그럴듯하게 지어낸다는 점입니다. 업계에서는 이를 ‘할루시네이션’이라고 부릅니다. AI가 환각을 보듯 없는 사실을 만들어낸다는 뜻이죠.

이번 독일 사건의 핵심도 여기에 있습니다. AI Overviews가 특정 대상에 대해 잘못된 정보를 답변으로 내놨고, 피해를 입었다고 주장하는 측이 구글을 상대로 소송을 건 겁니다.

법원이 주목한 한 가지

이 판결이 중요한 이유는 구글의 단골 방어 논리를 정면으로 반박했기 때문입니다.

구글은 그동안 이렇게 설명해 왔습니다. “우리는 정보를 만드는 게 아니라 웹에 있는 정보를 보여줄 뿐이다.” 검색 엔진은 단순한 중개자일 뿐이라는 논리입니다. 도서관 사서가 책 내용까지 책임지지는 않는 것처럼요.

그런데 독일 법원은 AI Overviews는 다르다고 봤습니다. 단순히 남의 글을 링크로 연결해주는 게 아니라, 구글의 AI가 직접 문장을 생성하고 종합해 하나의 답변으로 내놓는다는 점에 주목한 겁니다. 즉 그 답변은 누군가 다른 사람의 말이 아니라 구글이 발화한 말이라는 해석입니다.

이 차이가 결정적입니다. 링크를 모아주는 것과 직접 답을 말하는 것은 법적으로 전혀 다른 무게를 갖기 때문입니다.

왜 지금 이 판결이 중요한가

생각해보면 검색의 작동 방식 자체가 바뀌었습니다. 예전 검색은 “여기 관련 페이지들이 있으니 직접 판단하세요"였습니다. 판단의 책임이 사용자에게 있었죠.

지금의 AI 검색은 “정답은 이겁니다"라고 말합니다. 사용자가 여러 출처를 비교할 기회 자체를 줄여버립니다. 많은 사람이 AI 요약만 읽고 링크는 클릭조차 하지 않습니다.

권한이 커지면 책임도 따라옵니다. AI가 사용자의 판단을 대신하는 만큼, 그 답변에 대한 책임도 AI를 만든 쪽이 져야 한다는 게 이번 판결의 논리적 귀결입니다. 편의를 제공한 대가인 셈이죠.

구글에게 던져진 진짜 고민

구글 입장에서 이 판결은 단순한 한 건의 소송이 아닙니다. 사업 모델의 근간을 흔드는 문제이기 때문입니다.

AI Overviews가 내놓는 답변마다 법적 책임을 질 수 있다면, 구글은 매일 수십억 건의 잠재적 명예훼손 위험을 떠안는 셈입니다. AI가 한 사람에 대해, 한 회사에 대해, 한 제품에 대해 틀린 말을 할 때마다 소송 대상이 될 수 있으니까요.

그렇다고 AI 검색을 포기할 수도 없습니다. 오픈AI와 챗GPT가 검색 시장을 위협하는 상황에서 AI 답변은 구글의 핵심 생존 전략이거든요. 책임은 지기 싫고, 기능은 포기할 수 없는 딜레마에 빠진 겁니다.

흥미로운 건 이 고민이 구글만의 것이 아니라는 점입니다. 챗GPT, 제미나이, 그리고 국내 AI 검색 서비스까지 생성형 답변을 내놓는 모든 서비스가 같은 질문 앞에 서 있습니다.

우리에게 남는 질문

이번 판결은 한 국가의 1심 판단일 수 있습니다. 항소가 이어질 수도 있고, 나라마다 결론이 다를 수도 있습니다. 다만 방향만큼은 분명해 보입니다. AI가 직접 말을 만들어내는 시대에는, 그 말에 대한 책임도 누군가는 져야 한다는 겁니다.

그동안 우리는 AI의 답변을 너무 쉽게 믿어온 건 아닐까요. 그리고 그 답변이 틀렸을 때 책임질 주체가 명확하지 않은 채로 너무 멀리 와버린 건 아닐까요. 독일 법원의 판결은 그 빈자리를 짚었다는 점에서 곱씹어볼 만합니다. 여러분은 AI가 내놓는 답을 얼마나 믿고 계신가요.