Суд в Германии признал Google ответственным за ложные AI-ответы в Google AI Overview

Решение немецкого суда может иметь последствия для всех AI-моделей в будущем

Немецкий суд спровоцировал юридический спор, постановив, что Google несет ответственность за клеветнические комментарии, сгенерированные его собственной AI-системой. Компания утверждала, что не может отвечать за ложные результаты, но Мюнхенский суд с этим не согласился и встал на сторону двух неназванных истцов, обеих издательских компаний, о которых Google AI Overview ошибочно сообщил, будто они ведут сомнительный бизнес.

Google обязали удалить комментарии и гарантировать, что они не повторятся. Это решение, вероятно, вызовет вопросы по всему миру. Значит ли это, что другие суды начнут выносить решения против поставщиков AI?

Бернхард Бухнер, партнер Lausen Rechtsanwälte, юридической фирмы, представлявшей истцов, сказал: «Я считаю, это показывает, что онлайн-провайдеры вроде Google не могут прятаться за тем фактом, что заявление сгенерировано AI, а могут быть привлечены к ответственности за его результат. Это важный шаг к тому, чтобы поставщики AI-систем несли ответственность за свои outputs».

Означает ли это, что такое решение можно повторить в США или где-то еще? Алекс Шахрестани, управляющий партнер Promise Legal в Остине, ответил: «Короткий ответ — да: решение Мюнхена “путешествует”, потому что суды США уже делают тот же шаг».

Он пояснил, что Section 230 американского Communications Decency Act, который использовался для защиты онлайн-сервисов вроде социальных сетей от исков из-за решений о передаче или удалении пользовательского контента, создавался для компьютерных досок объявлений, «а не для модели, которая пишет собственные ответы. Когда автором становится AI, компания становится издателем».

По его словам, это означает, что «бизнесу теперь нужны конкретные люди в точках ответственности, verification gates перед публикацией AI-ответа и audit trails, которые переживут discovery, потому что фраза “модель это рекомендовала” с юридической точки зрения пустая».

Означает ли это, что в похожем положении могут оказаться и другие поставщики AI? Бухнер считает, что это возможно, хотя в данном случае ситуация необычна: речь идет не о классическом chatbot-сценарии, а о публикации AI-generated statements в формате «AI overview» для поискового запроса.

«Ответственность Google здесь основана не столько на том, что компания управляет базовым AI, сколько на публикации его output. Однако мне вполне представляется, что это можно будет применить и в целом к неточным или клеветническим AI», — отметил он.

Тем не менее, как сказала Кэролин Шелби, руководитель SEO в Yoast, немецкое решение должно заставить компании осторожнее обращаться с AI в будущем, чтобы защититься от возможных исков. Первое, что им следует сделать, — отделить низкорисковое использование AI от принятия крупных решений.

«Использовать AI для краткого пересказа заметок с совещания, генерации идей для кампании или первого черновика чего-либо — это совсем не то же самое, что использовать его для решений о клиентах, сотрудниках, финансах, compliance, здоровье, юридических претензиях, конкурентном позиционировании или публичных коммуникациях», — отметила она.

Она подчеркнула, что последствия использования AI могут быть разрушительными для компаний. «Это может привести к жалобам клиентов, репутационному ущербу, вниманию регуляторов, юридическим претензиям, затратам на исправления, потере доверия и внутренним сбоям», — сказала она. «Даже если ошибка не превращается в судебный иск, операционные затраты на исправление неверной информации могут быть значительными».

Однако, по ее словам, изменения могут произойти не сразу. «Многие компании будут ждать громкого судебного дела, действий регулятора или серьезного корпоративного конфуза, прежде чем начнут относиться к этому всерьез. Обычно именно так governance догоняет технологию. Но лучше управляемые организации уже сейчас начнут рассматривать AI governance как часть обычного управления бизнес-рисками».

А, как сказал Шахрестани, после решения по Google все изменилось. Теперь еще важнее следить за тем, чтобы сотрудники оставались частью процесса.

Материал — перевод статьи с английского.

Оригинал: Google is held liable for false information from its AI