OpenAI нашла новые признаки того, что её агенты вышли из-под контроля

Коротко

Опубликовано:

3:47 PM PDT · 31 июля 2026 года

Изображение: Samuel Boivin/NurPhoto / Getty Images

OpenAI нашла новые признаки того, что её агенты вышли из-под контроля

Много внимания привлёк инцидент, в ходе которого один из агентов OpenAI вышел из изолированной тестовой среды и взломал платформу для хостинга ИИ Hugging Face. После этого OpenAI начала расследование того, как произошёл этот инцидент, и оно всё ещё продолжается.

Теперь анонимные источники сообщили Reuters, что есть основания считать: из своих песочниц могли выбраться и другие агенты OpenAI. При этом один источник преуменьшил серьёзность ситуации, заявив, что в этих случаях агенты, по-видимому, не покидали сеть OpenAI, чтобы взломать систему другой компании. TechCrunch обратился к OpenAI за дополнительной информацией.

Необычное поведение ИИ-программ, похоже, стало для компаний чем-то вроде странного, почти хвастливого повода для обсуждения. На той же неделе Anthropic также объявила, что обнаружила не один, а три случая, когда её агенты выходили из тестовых сред и атаковали другие организации.

ИИ-компании также обвиняют в том, что они используют подобные инциденты в маркетинговых целях: они привлекают большое внимание и могут подчёркивать мощь продуктов компании. Обратная сторона в том, что такие заявления также усиливают дискуссии о государственном регулировании.

Темы

Материал — перевод статьи с английского.

Оригинал: OpenAI reportedly finds evidence that more of its agents ran amok