Frontier AI от Google, Microsoft и xAI пройдет тестирование на национальную безопасность

• Центр по искусственному интеллекту, стандартам и инновациям при Национальном институте стандартов и технологий заключил соглашения с Google DeepMind, Microsoft и xAI о проведении предразвертывательных оценок и исследований для проверки возможностей frontier AI компаний.
• Эти соглашения развивают ранее объявленные партнерства с OpenAI и Anthropic с целью усиления безопасности AI. Условия соглашения обновили, включив директивы CAISI, министра торговли и опубликованный в прошлом году AI Action Plan президента Дональда Трампа.
• Соглашение позволяет правительству оценивать партнерские AI-модели до того, как они станут доступны публике, и продолжать оценку моделей после развертывания. «Независимая, строгая наука измерений необходима для понимания frontier AI и связанных с ним последствий для национальной безопасности», — заявил в сообщении директор CAISI Крис Фолл. «Это расширенное отраслевое сотрудничество помогает нам масштабировать нашу работу в общественных интересах в критический момент».

Dive Insight:

Как основной правительственный контакт для технологической отрасли, CAISI и его отраслевые партнерства поддерживают обмен информацией, улучшение продуктов и понимание текущих и будущих возможностей AI в США и за рубежом, заявили в NIST. Партнерства также дают NIST представление о возможностях и рисках в сфере национальной безопасности, которые могут нести AI-модели.

Трамп сначала выбрал нерегулируемый подход к AI в первый год своего второго срока, поставив цель ускорить инновации в AI, построить отечественную инфраструктуру AI и продвигать международную дипломатию и безопасность в сфере AI.

Но The New York Times сообщила в понедельник, что администрация стремится усилить регуляторный надзор за AI, поскольку законодатели находятся под давлением со стороны специалистов по национальной безопасности из-за рисков, которые несут мощные AI-модели, такие как Mythos от Anthropic. Инициативы вроде Project Glasswing — проекта Anthropic по выявлению и устранению уязвимостей программного обеспечения — дополнительно подчеркивают растущую тенденцию к масштабированию управления одновременно с внедрением технологий.

Расширение рамки CAISI означает, что суверенное соответствие будет обязательным критерием закупок AI для предприятий, сказал в письме CIO Dive вице-президент и руководитель практики AI-платформ The Futurum Group Ник Пейшенс.

В марте Министерство обороны официально отнесло Anthropic к категории угрозы безопасности, и это решение было подтверждено федеральными судьями в прошлом месяце, несмотря на партнерство компании с процессом оценки CAISI. Это доказывает, что вендор все еще может быть подвергнут санкциям, если его внутренняя этика конфликтует с мандатами национальной безопасности, сказал Пейшенс.

Для CIO новые соглашения с Google, Microsoft и xAI — это форма политической страховки, отметил Пейшенс. Выбор вендора, который не получил благосклонного статуса у Министерства торговли и NIST, несет «огромный риск заражения», особенно для компании, у которой уже есть федеральные контракты или которая хочет их получить.

«Мы вступили в эпоху, когда полезность модели для государства является ключевым предиктором ее долгосрочной жизнеспособности в enterprise stack», — сказал он.

Материал — перевод статьи с английского.

Оригинал: Google, Microsoft and xAI’s frontier AI to face national security testing