OpenAI: связанные с КНР influence operations атакуют дискуссии об ИИ и дата-центрах в США
Наша миссия — сделать так, чтобы искусственный общий интеллект приносил пользу всему человечеству. Мы продвигаем эту миссию, создавая democratic AI: ИИ, сформированный демократическими принципами, управляемый здравыми правилами и предназначенный помогать людям решать сложные задачи, защищая их от реального вреда. Эта миссия также требует выявлять и срывать попытки авторитарных режимов и их посредников использовать ИИ-системы для давления на критиков, слежки за сообществами или скрытого вмешательства в демократические общества.
В этом отчете мы описываем два кластера аккаунтов ChatGPT, вероятно происходящих из Китая, которые мы заблокировали после того, как они использовали наши модели в поддержку очевидных скрытых операций влияния, продвигавших нарративы с целью манипулировать законной дискуссией об ИИ в США и более широкой технологической политике.
Первый кластер генерировал комментарии и изображения для соцсетей, утверждавшие, что строительство дата-центров для ИИ повышает цены на электроэнергию для обычных семей. Мы назвали этот кластер кампанией «Data Center Bandwagon».
Второй кластер генерировал комментарии и изображения, критикующие тарифы США как попытку доминировать в технологической конкуренции, и указывал в промптах, что в результате не должно быть лидера Китая Си Цзиньпина, а должен быть только президент Трамп. Этот кластер был связан с сетью, вероятно, неаутентичных аккаунтов в соцсетях, которые также, вероятно, атаковали OpenAI, утверждая, что пользовательские данные ChatGPT были скомпрометированы. Эти обвинения были полностью ложными. Мы назвали этот второй кластер кампанией «Tech and Tariffs».
Целенаправленность на OpenAI и строительство дата-центров в США важна не потому, что операция, по-видимому, изменила общественное мнение, а потому, что она показывает, как операторы влияния, связанные с КНР, тестируют нарративы против ИИ-инфраструктуры — основы технологического лидерства США, экономического роста и более широкой экосистемы democratic AI. Операция стремилась использовать и усиливать существующие общественные опасения по поводу цен на энергию и местного влияния строительства дата-центров, но мы не обнаружили признаков существенного выхода за пределы собственной активности. Иностранные операции влияния давно пытаются зацепиться за местные проблемы и искренние убеждения, чтобы заработать доверие, усилить разногласия или подорвать общественное доверие. В этом случае операторы пытались скрытно встроиться в продолжающуюся американскую дискуссию о будущем ИИ-возможностей страны, скрывая, кто они и что ими двигало.
Публикуя эти выводы, мы хотим помочь нашей отрасли, правительствам, гражданскому обществу и общественности лучше выявлять и пресекать попытки иностранных злоумышленников манипулировать законными общественными дебатами, ослаблять демократические институты и продвигать тоталитаризм с характеристиками ИИ — использование ИИ для слежки, цензуры и контроля над политической, социальной и частной жизнью.
Материал — перевод статьи с английского.
Оригинал: PRC-linked influence operations are targeting AI debates in the US