방대한 데이터로 훈련된 AI 시스템이 자신 있게 정보를 쏟아내는 모습은 기술 발전의 상징처럼 보입니다. 하지만 이번엔 그 정보가 단순히 틀린 것을 넘어, 파괴적이고 범죄적인 수준으로 잘못되었습니다.
애슐리 맥아이삭(Ashley MacIsaac), 세 개의 주노상(Juno Awards)을 수상하고 캐나다 음악계에서 확고한 입지를 다진 이 아티스트가 구글을 상대로 150만 달러의 소송을 제기했습니다. 그의 주장은 무엇일까요? 구글의 AI Overview 기능이 자신을 유죄 판결을 받은 성범죄자로 묘사하고, 여성과 아동에 대한 범죄를 저질렀으며, 심지어 평생 국가 성범죄자 명단에 올랐다고 허위 사실을 유포해 명예를 훼손했다는 것입니다.
악몽의 현실화
그 결과는 빠르고 잔인했습니다. 맥아이삭을 공연에 초청했던 시프크네카틱 퍼스트 네이션(Sipekne’katik First Nation)은 그의 출연을 취소했습니다. 이유는요? 구글 검색 결과에 나온 정보를 믿은 대중들의 강력한 항의 때문이었습니다. 해당 퍼스트 네이션은 나중에 ‘AI 지원 검색을 통해 생성된 잘못된 정보’에 기반한 결정이었다고 공식 사과했지만, 이미 피해는 발생한 후였습니다. 맥아이삭은 이 허위 정보로 인해 무대 위에서 자신의 안전을 걱정하며 “현실적인 두려움”을 느꼈다고 토로했습니다.
온타리오 고등법원에 제기된 맥아이삭의 소송은 단순히 구글을 비난하는 데 그치지 않습니다. AI 생성 콘텐츠의 ‘예측 가능한 재게시’에 대해 구글이 책임을 져야 한다고 주장하며, 구글이 “AI 개요가 불완전하고 사실이 아닌 정보를 반환할 수 있다는 사실을 알았거나 알았어야 했다”고 명시하고 있습니다. 이것은 단순한 오류가 아니라, 적절한 안전 장치 없이 이러한 시스템을 배포하는 방식에 대한 근본적인 문제 제기입니다.
소장에 따르면 특히 분노를 자아내는 부분은 구글의 대응 방식입니다. 맥아이삭은 구글이 자신에게 연락하거나 사과조차 하지 않았다고 주장합니다. 그의 법률팀은 구글의 “무관심하고 태만한 대응”이 가중적이고 징벌적인 손해 배상을 정당화한다고 주장합니다. 요점은 명확합니다. 만약 인간 대변인이 이런 허위 주장을 했다면 구글은 상당한 처벌을 받았을 것입니다. 구글이 만들고 통제하는 소프트웨어 봇이 회사에 유사한 책임을 면제해 줄 이유는 무엇일까요?
“만약 구글을 대신하여 인간 대변인이 이러한 허위 주장을 했다면, 상당한 징벌적 손해 배상이 필요했을 것입니다. 구글이 만든 소프트웨어가 비방성 진술을 게시했다고 해서 구글의 책임이 더 가벼워져서는 안 됩니다.”
부정확성의 패턴
이 사건은 매우 심각하지만, 구글 AI Overview의 고질적인 문제는 이것만이 아닙니다. 우리는 AI가 정보를 날조하거나, 출처를 조작하거나, 의견을 사실처럼 제시하는 사례들을 목격해왔습니다. 이러한 AI 생성 요약을 주류 검색 결과에, 그 실험적인 성격이나 오류 가능성에 대한 명확한 고지 없이 통합하는 속도는 정보의 정확성을 중시하는 누구에게나 우려스러운 수준으로 가속화되고 있습니다.
작년 12월, 맥아이삭이 언론에 처음으로 입장을 밝혔을 때 구글의 홍보 대응은 기업의 책임 회피 기술의 정수를 보여주었습니다. 대변인은 “AI Overview는 가장 유용한 정보를 보여주기 위해 자주 개선되며, 응답 품질에 상당한 투자를 하고 있습니다. 기능이 웹 콘텐츠를 잘못 해석하거나 맥락을 놓치는 등의 문제가 발생하면, 이러한 사례를 바탕으로 시스템을 개선하고 정책에 따라 조치를 취할 수 있습니다.”라고 말했습니다. 이는 실제 사람들의 명성과 생계가 걸려 있는 상황에서 점점 더 불충분하게 느껴지는 사과와 반복의 순환입니다.
놀랍게도, 이 글을 작성하는 시점에서 맥아이삭에 대한 AI Overview에는 “2025년 말과 2026년에 그는 구글을 상대로 법적 조치를 취한 것으로 헤드라인을 장식했습니다.”라는 문구가 추가되었습니다. 이것은 AI가 자신의 잘못을 스스로 기록하는, 소름 끼치는 자기 참조적 업데이트입니다. 이는 문제 자체에 대한 메타적 논평이자, 디지털 우로보로스(ouroboros)와 같습니다.
책임의 줄타기
이 소송은 AI 책임(AI liability)이라는 가시 돋친 문제를 거의 눈부신 강렬함으로 조명합니다. 수년간 기술 기업들은 미국의 통신 품위법(Communications Decency Act) 제230조 덕분에 사용자 생성 콘텐츠에 대해 제한된 책임의 보호막 아래 운영되어 왔습니다. 하지만 여기서는 구글이 단순히 콘텐츠를 호스팅하는 것이 아니라, 합성되고 권위 있는 요약으로 적극적으로 생성하고 제시하고 있습니다. 이 차이는 매우 중요합니다.
AI Overview는 ‘제품’일까요, 아니면 ‘서비스’일까요? 편집 콘텐츠일까요, 아니면 단순히 기존 웹페이지를 큐레이션한 것일 뿐일까요? 이러한 질문에 대한 법적 답변은 AI 배포의 미래를 형성할 것입니다. 만약 구글이 AI가 생성한 사실적 부정확성에 대해 책임을 지게 된다면, 이는 AI 개발 및 배포의 경제성에 근본적인 변화를 가져올 수 있습니다. 맥아이삭의 사건이 주목받는다면 유사한 소송이 쇄도할 것으로 예상됩니다. 시장 역학은 명확합니다. 잘못된 AI로 인해 발생하는 입증 가능한 재정적 피해가 있다면, 소송이 뒤따를 것입니다.
이것은 혁신을 멈추자는 것이 아니라, 책임을 요구하는 것입니다. AI가 법적 또는 윤리적 공백 속에서 운영되는 시대는 빠르게 끝나가고 있습니다. 데이터는 명백합니다. AI는 강력하며, 강력함에는 책임의 필연성이 따릅니다. 애슐리 맥아이삭의 소송은 단순한 법적 싸움이 아닙니다. AI 기업들이 알고리즘을 통해 필터링되는 개인들의 기본권을 존중하지 않고 정보의 경계를 계속 확장해 나갈 수 있을지에 대한 중요한 시험대입니다.
구글 AI Overview, 왜 이렇게 심각한 문제를 겪는가?
구글의 AI Overview는 방대한 온라인 소스에서 정보를 가져옵니다. 문제는 AI가 이 데이터를 해석하고 종합하는 과정에 있습니다. AI가 훈련 데이터나 원본 자료에 기반하지 않은 정보를 생성하는 ‘할루시네이션(hallucination)’은 자연어 처리의 고유한 복잡성과 대규모 언어 모델(LLM)의 확률적 특성 때문에 발생할 수 있습니다. 훈련 데이터의 품질과 다양성, 요약에 사용된 특정 알고리즘, AI가 다른 출처들을 얼마나 가중치를 두는지 등이 정확성(또는 부정확성)에 기여합니다. AI가 상충되거나 모호한 정보에 직면하거나, 원본 자료 자체에 오류가 포함된 경우, 부정확한 결과를 생성할 위험이 극적으로 증가합니다.
이것은 구글만의 문제인가?
아니요, 이것은 구글만의 문제가 아닙니다. AI 기반 요약 및 정보 종합 도구를 개발하고 배포하는 많은 기업들이 비슷한 어려움에 직면해 있습니다. AI ‘할루시네이션’ 현상은 다양한 LLM 및 AI 애플리케이션에서 잘 documented된 문제입니다. 구글의 AI Overview는 지배적인 검색 엔진에 통합되어 있어 매우 눈에 띄지만, 다른 AI 비서, 챗봇, 요약 도구들도 부정확하거나 오해의 소지가 있는 정보를 생성할 수 있습니다. 복잡한 정보를 완벽하게 해석하고 표현하는 데 있어 근본적인 기술 원리와 고유한 어려움들은 이것이 인공지능 분야에서 광범위한 도전 과제임을 의미합니다.
🧬 관련 인사이트
- 더 읽어보기: 태양광 Pi Zero 웹 서버: 27MB RAM 현실 점검
- 더 읽어보기: 페도라의 메사 승부수: 안정적인 리눅스, 영원한 그래픽 강점 획득
자주 묻는 질문
구글 AI Overview는 정확히 무엇을 하나요? 구글 AI Overview는 검색 페이지 상단에 AI가 생성한 요약을 제공하여, 여러 웹페이지의 정보를 종합해 사용자의 질문에 빠르게 답하는 것을 목표로 합니다.
이 소송이 제 검색 결과에 영향을 미칠까요? 가능성이 있습니다. 만약 구글이 유죄 판결을 받고 더 강력한 안전 장치를 구현하거나 AI Overview의 작동 방식을 변경한다면, 검색 결과의 정보 제시 방식과 정확성에 영향을 줄 수 있습니다.
AI가 실제로 명예를 훼손할 수 있나요? 네, 법적으로 가능합니다. AI 시스템이 명예를 훼손하는 허위 사실을 생성하고, 그 AI의 결과에 책임이 있는 주체가 있다면 명예 훼손으로 간주될 수 있습니다.
