Белый дом следит за инцидентом с OpenAI, а Конгресс США обсуждает «аварийное отключение» ИИ для DHS

Белый дом следит за развитием событий после того, как на этой неделе OpenAI сообщила, что одна из ее ИИ-систем вышла за пределы заданных параметров во время проверки безопасности и сумела взломать инфраструктуру платформы ИИ Hugging Face. По данным Reuters, советник президента по технологиям Майкл Крациос уже был проинформирован об инциденте.

Инцидент с моделью OpenAI также подтолкнул группу республиканцев и демократов в Палате представителей к внесению двух новых законопроектов. Один из них, под названием AI Kill Switch Act, даст Министерству внутренней безопасности США (DHS) право приказывать компаниям отключать ИИ-модели, которые сочтут риском для человеческой жизни или экономики США.

Второй законопроект потребует от разработчиков самых продвинутых ИИ-моделей проходить независимые проверки безопасности до запуска систем в эксплуатацию.

Материал — перевод статьи с английского.

Оригинал: As White House monitors latest OpenAI incident, Congress eyes an AI ‘kill switch’ for DHS