Anthropic обвинила Alibaba в использовании 25 000 фальшивых аккаунтов для извлечения возможностей Claude AI

По версии Anthropic, кампания собрала 28,8 млн запросов для масштабного извлечения возможностей модели

Anthropic обвинила Alibaba в использовании почти 25 000 мошеннических аккаунтов для извлечения возможностей из моделей Claude AI, назвав это крупнейшей известной атакой такого рода против компании.

По данным Anthropic, кампания проходила с 22 апреля по 5 июня и за это время с Claude было проведено более 28,8 млн обменов сообщениями, следует из письма от 10 июня, которое Anthropic направила старшим членам банковского комитета Сената США, сообщило Reuters.

Anthropic заявила, что в кампании использовалась «distillation» — техника, при которой менее способная модель ИИ обучается на выходных данных более продвинутой системы, что потенциально позволяет конкурентам воспроизводить часть ее возможностей с меньшими затратами.

Компания утверждает, что в кампании участвовали операторы, связанные с Alibaba и Alibaba Qwen, лабораторией ИИ Alibaba, говорится в сообщении.

Обвинения прозвучали на фоне того, как компании все шире внедряют генеративные инструменты ИИ в бизнес-функции, а поставщики оказываются под давлением: им нужно одновременно выявлять злоупотребления и сохранять доступность сервисов для корпоративных клиентов.

Спор также разворачивается на фоне более тесной связи развития ИИ с технологической напряженностью между США и Китаем. Anthropic заявила, что предполагаемая кампания может ускорить достижение Китаем возможностей ее продвинутой модели Mythos Preview, а власти США усилили проверку продвинутых систем ИИ из-за опасений, что ими могут пользоваться военные или разведка в странах, вызывающих обеспокоенность.

В феврале Anthropic сообщала, что выявила похожие кампании DeepSeek, Moonshot AI и MiniMax по извлечению возможностей Claude; объем предполагаемой активности варьировался от более чем 150 000 обменов у DeepSeek до более чем 13 млн у MiniMax.

Alibaba на запрос о комментарии сразу не ответила.

Новый риск для цепочки поставок

Если заявления Anthropic верны, предполагаемая кампания могла бы позволить Alibaba за короткое время создать сопоставимую модель и предложить ее по гораздо более низкой цене, сказал Anand Joshi, аналитик по ИИ в TechInsights.

Аналитики отметили, что предполагаемая кампания указывает и на более широкий тренд за пределами двух компаний. В совокупности с предыдущими инцидентами, на которые ссылалась Anthropic, они считают, что извлечение моделей, похоже, усиливается, а не остается изолированным риском.

«Цепочка поставок для enterprise больше не заканчивается на программном обеспечении, API и облачных регионах», — сказал Sanchit Vir Gogia, главный аналитик Greyhound Research. — «Теперь в нее входит арендованный интеллект, а арендованный интеллект можно копировать и разворачивать далеко за пределами тех средств защиты, с которыми он был создан».

Gogia добавил, что distillation должна стать темой уровня совета директоров, потому что более слабая модель, обученная на более сильной, может унаследовать ее возможности без управления и контроля, которые были вокруг оригинальной системы.

Для предприятий эти обвинения указывают на потенциально более серьезный риск, чем обычное нарушение прав на интеллектуальную собственность: reverse engineering в масштабе. Если обвинения подтвердятся, это будет означать, что модели ИИ можно систематически копировать, превращая model extraction в новый риск для цепочки поставок ИИ.

«Если конкурент сможет клонировать точный мозг ИИ, на который опирается ваша компания, он легко найдет его слепые зоны, взломает ваши автоматизированные системы или заставит поставщика ИИ запаниковать и отключить сервисы, которые вашему бизнесу нужны каждый день», — сказал Pareekh Jain, генеральный директор Pareekh Consulting.

Как снижать риски

Обвинение поднимает вопросы о том, какие меры контроля уже внедрили поставщики ИИ и как клиенты могут защитить себя.

«Поставщики должны обеспечивать верифицированные аккаунты, умные rate limits, обнаружение злоупотреблений, мониторинг использования, договорный запрет на distillation, раскрытие инцидентов и права на аудит», — сказал Jain. — «Предприятиям стоит спрашивать, как поставщик выявляет и блокирует масштабное извлечение модели, и требовать в контрактах планы резервирования и финансовые компенсации, если сервис ИИ подвергнется атаке или внезапно будет отключен».

Joshi сказал, что корпоративным клиентам также следует добиваться большей прозрачности в том, как создаются модели и какие меры защиты применяются.

«Покупателям enterprise-уровня следует спрашивать, какие данные использовались для обучения, как модель обучалась, какие guardrails действуют, как можно проводить аудит и так далее», — сказал Joshi. — «Поставщикам моделей придется внедрять технологии watermarking как в самих моделях, так и в ответах моделей. Тогда, если “навыки” модели будут украдены, можно будет найти вора».

Материал первоначально опубликован на InfoWorld.

Материал — перевод статьи с английского.

Оригинал: Anthropic accuses Alibaba of using 25,000 fake accounts to scrape Claude AI