OpenAI о совместных стандартах для передовых ИИ: CAISI, Appia и оценка рисков
Модели, которые становятся все более способными, могут усиливать киберзащиту, ускорять научные открытия и расширять доступ к экспертизе. Но они же могут создавать риски для безопасности, если их возможности неправильно понимают, защиты оказываются недостаточными или у правительств не хватает информации для ответа. Чтобы безопасно и уверенно получать выгоды, обществу нужны институты с технической и управленческой компетенцией для оценки, защиты и регулирования таких систем.
Мы рассматриваем эту работу как важный следующий шаг в более широком наборе усилий по укреплению институтов, стандартов и практик оценки, необходимых для передовых систем ИИ.
Наш недавний план демократического управления frontier AI предлагает дорожную карту для этой работы. Он предусматривает устойчивую рамку для США, усиление Center for AI Standards and Innovation (CAISI) и более широкую стратегию устойчивости на уровне правительства. В нем также признается, что frontier-риски носят международный характер. Странам следует вместе разрабатывать совместимые рамки безопасности, надежные каналы для обмена данными о рисках и согласованные реакции на инциденты.
Национальный потенциал и международное сотрудничество должны усиливать друг друга. Сильные институты, такие как CAISI, могут развивать техническую экспертизу, оценивать frontier-системы и поддерживать независимую экосистему оценивания. Сеть сильных национальных институтов затем сможет вырабатывать общие методы, признавать надежные доказательства и давать правительствам общее техническое понимание, необходимое для совместных действий.
Стандарты имеют центральное значение для этой задачи, и они должны опираться на достоверную практику оценки и техническую строгость. В нашем общем руководстве по надежным оценкам третьей стороной мы перечислили, что должны раскрывать frontier-оценки: тестируемую систему, доступ к инструментам и evaluation harness, методы, использованные для выявления возможностей, доступные ресурсы и проверки, выполненные для валидации результатов. Мы также применили эти принципы на практике через партнерства по тестированию с US CAISI и UK AISI, чья работа по оценке frontier-возможностей и мерам против биологического злоупотребления привела к конкретным улучшениям в наших системах. Эта работа важна тем, что создает основу для практик, которые можно стандартизировать для сопоставимой проверки производительности.
Эти практики дополняют более широкую инфраструктуру безопасности OpenAI. Наш Preparedness Framework — основа того, как мы определяем и операционализируем наш подход к управлению наиболее серьезными рисками, связанными с передовыми системами ИИ, включая внутренние процедуры. Наш Frontier Governance Framework переносит соответствующие части этого подхода в публичный документ по управлению, сфокусированный на конкретных регуляторных обязательствах, включая оценку рисков, отчетность по моделям, меры безопасности, реагирование на инциденты и привлечение внешних экспертов. Вместе эти документы помогают переводить общие обязательства в операционные практики, которые можно проверять и улучшать.
Работа Appia нацелена на следующий вызов: сделать эти практики совместимыми между организациями, юрисдикциями и цепочкой поставок.
Во всех этих форматах, включая работу через Appia, наша цель — перенести уроки frontier-разработки в открытые, технически обоснованные практики, которые правительства, компании и независимые оценщики смогут использовать в разных юрисдикциях.
Материал — перевод статьи с английского.