Глава US AI testing institute ушёл спустя три месяца после назначения в CAISI
Глава американского государственного института по тестированию ИИ Крис Фолл ушёл в отставку примерно через три месяца после того, как возглавил Center for AI Standards and Innovation (CAISI) — федеральную организацию, отвечающую за оценку продвинутых моделей искусственного интеллекта на безопасность и защищённость.
Исполняющим обязанности директора CAISI станет нынешний директор National Institute of Standards and Technology (NIST) Арвинд Раман, который при этом продолжит курировать офис Министерства торговли, отвечающий за институт, сообщила Daily Signal со ссылкой на двух знакомых с ситуацией источников.
Представитель Министерства торговли, общавшийся с изданием, не раскрыл причину отставки.
Фолл возглавил CAISI в апреле, после того как администрация Трампа реорганизовала бывший US AI Safety Institute и перевела его под NIST. Институт разрабатывает методики оценки frontier AI models и работает с разработчиками ИИ над добровольными техническими оценками по таким темам, как кибербезопасность, злоупотребление моделью, надёжность и другие риски, связанные с всё более мощными системами ИИ.
Смена руководства происходит на фоне того, что правительства и компании в сфере ИИ продолжают разрабатывать технические подходы к оценке frontier AI models, а предприятия расширяют внедрение generative AI и agentic AI в бизнес-операциях.
В последние месяцы Министерство торговли заняло более активную позицию в политике по ИИ, связанную с продвинутыми моделями, уделяя больше внимания тому, как федеральное правительство оценивает технологии с потенциальными последствиями для национальной безопасности.
Преемственность важнее персоналий
CAISI работает с такими разработчиками ИИ, как Anthropic, DeepMind от Google и OpenAI, проводя добровольные оценки frontier AI models и разрабатывая методики тестирования возможностей и рисков моделей. Институт не регулирует разработчиков ИИ и не сертифицирует коммерческие AI systems.
Для предприятий эти оценки — лишь один из источников технической информации наряду с собственным тестированием поставщиков, сторонними оценками безопасности и внутренними программами AI governance.
Главный аналитик Greyhound Research Санчит Вир Гогиа сказал, что предприятиям следует меньше смотреть на личность руководителя института и больше — на то, сохраняется ли у его технической работы тот же уровень последовательности и прозрачности.
«Смена руководства в CAISI ослабляет сигнал задолго до того, как ослабляет науку», — сказал Гогиа. «Тестирование не остановилось. Просто его авторитет уже не передаётся так же безупречно после ухода руководства».
По словам Гогиа, более важный вопрос для предприятий — не продолжится ли оценочная работа института, а останутся ли стабильными процессы, которые поддерживают эти оценки.
«Первый импульс — спросить, не ломается ли конвейер», — сказал он. «Более полезный вопрос — где теперь находится этот конвейер».
Предприятия по-прежнему несут основную нагрузку по AI governance
Гогиа сказал, что организациям следует и дальше рассматривать государственные оценки ИИ как один из входов в свои процессы governance, а не как доказательство того, что модель изначально безопасна для развёртывания в компании.
«Оценка правительства всегда была сигналом, а не сертификатом», — сказал он. «Сигнал теряет ценность в тот момент, когда тот, кто его подаёт, становится непредсказуемым».
По его словам, предприятиям стоит следить за тем, сохраняет ли CAISI единые методики оценки, продолжает ли публиковать технические выводы и удерживает ли преемственность в исследовательских командах под временным руководством.
«Имя на двери — не сигнал. Сигналом является то, что происходит внутри», — сказал Гогиа.
Гогиа также предостерёг от попыток связать отставку Фолла с недавними действиями Министерства торговли по политике в области ИИ или экспортного контроля, отметив, что публичных доказательств связи между ними нет.
«CAISI оценивает; оно не обеспечивает экспортный контроль, потому что у него нет таких полномочий», — сказал он. «Это не тестирующий орган, который тянется к enforcement. Это enforcement, который проходит мимо тестирующего органа».
Поскольку Раман временно занял этот пост, следующим важным ориентиром для предприятий станет назначение постоянного директора и то, продолжатся ли программы оценки института без перебоев, сказал аналитик.
Гогиа добавил, что мандат преемника может оказаться важнее, чем сам выбранный человек.
«Результат CAISI — не безопасная гавань», — сказал он. «Он задаёт обязательство; он не снимает его». В NIST не сразу ответили на запрос о комментарии.
Материал — перевод статьи с английского.
Оригинал: US AI testing institute chief steps down within three months