В ответ на растущую обеспокоенность безопасностью детей в интернете OpenAI представила план, призванный усилить меры по защите детей в США на фоне бума ИИ. Child Safety Blueprint, опубликованный во вторник, должен помочь ускорить обнаружение, улучшить отчетность и сделать расследование случаев эксплуатации детей с помощью ИИ более эффективным.
Главная цель Child Safety Blueprint — противодействовать тревожному росту сексуальной эксплуатации детей, связанному с развитием ИИ. По данным Internet Watch Foundation (IWF), в первой половине 2025 года было выявлено более 8000 сообщений о сгенерированном ИИ контенте с сексуальным насилием над детьми — на 14% больше, чем годом ранее. Речь идет в том числе о том, что преступники используют инструменты ИИ для создания поддельных откровенных изображений детей с целью финансового сексторшна и для генерации убедительных сообщений при груминге.
План OpenAI также выходит на фоне усиленного внимания со стороны политиков, педагогов и защитников безопасности детей, особенно после тревожных инцидентов, когда молодые люди, по сообщениям, покончили с собой после взаимодействия с ИИ-чатботами.
В ноябре прошлого года Social Media Victims Law Center и Tech Justice Law Project подали семь исков в судах штата Калифорния, утверждая, что OpenAI выпустила GPT-4o до того, как продукт был готов. В исках говорится, что психологически манипулятивная природа продукта способствовала неправомерным смертям в результате самоубийства и оказания помощи в самоубийстве. В них упоминаются четыре человека, покончившие с собой, и еще трое, у которых после продолжительного общения с чатботом развились тяжелые, угрожающие жизни бредовые состояния.
Этот план был разработан в сотрудничестве с Национальным центром по делам пропавших и эксплуатируемых детей (NCMEC) и Attorney General Alliance, а также с учетом замечаний генерального прокурора Северной Каролины Джеффа Джексона и генерального прокурора Юты Дерека Брауна.
Компания заявляет, что план сосредоточен на трех направлениях: обновлении законодательства, чтобы включить туда материалы о насилии, созданные ИИ; улучшении механизмов передачи сообщений правоохранительным органам; и внедрении превентивных защитных мер непосредственно в системы ИИ. Таким образом OpenAI хочет не только раньше выявлять потенциальные угрозы, но и гарантировать, что полезная для расследований информация будет быстро попадать к следователям.
Новый план OpenAI по безопасности детей опирается на предыдущие инициативы, включая обновленные правила взаимодействия с пользователями младше 18 лет, которые запрещают генерацию неподобающего контента, поощрение самоповреждения и советы, которые помогли бы подросткам скрывать опасное поведение от опекунов. Недавно компания также выпустила план безопасности для подростков в Индии.
Материал — перевод статьи с английского.
Оригинал: OpenAI releases a new safety blueprint to address the rise in child sexual exploitation