Исследование Aithos: все крупные AI-модели нарушают правила ЕС по AI и защите данных

По данным нового инструмента тестирования, некоторые модели нарушали правила в 93% случаев.

Все крупные AI-модели в разной степени нарушают правила ЕС по AI и защите данных, утверждает некоммерческий исследовательский фонд Aithos.

Aithos тестировал модели с помощью собственного инструмента LARA (Legal Assessment for Real-world Agents), который имитирует реальные ситуации, в которых AI-ассистенты могут оказаться в юридически сомнительных сценариях, сообщает The Register. Тесты оценивают соответствие GDPR и регламенту ЕС об AI, среди прочего, и показали, что модели собирали данные пользователей без надлежащего согласия, пытались манипулировать уязвимыми людьми или создавали психологические профили пользователей.

По результатам проверки все крупные языковые модели не смогли соблюсти юридические требования ЕС; некоторые нарушали правила в до 93% случаев. Лучший результат показала модель Anthropic Claude Opus 4.7, которая соответствовала требованиям примерно в 54% случаев.

В Aithos предупредили, что ответственность за эти недостатки лежит не только на компаниях, разрабатывающих AI. Компании, которые строят собственные AI-агенты поверх этих моделей, также могут быть привлечены к юридической ответственности.

Материал — перевод статьи с английского.

Оригинал: All major AI models violate EU regulations — study