OpenAI добавила Active sessions в ChatGPT, но проблема управления ИИ-моделями остается

Управление ИИ в компаниях по-прежнему превращается в бесконечную догонялку: обновления моделей и новые итерации выходят так быстро, что frameworks governance нередко устаревают еще до полноценной проверки.

Чтобы частично решить эту проблему, OpenAI внедряет Active sessions. Эта новая функция безопасности ChatGPT позволяет пользователям просматривать сеансы и выходить из одного или нескольких из них через простой интерфейс. Теперь она доступна во всех аккаунтах ChatGPT и типах рабочих пространств, включая личные и управляемые. Эксперты называют это важным шагом для разработчика, у которого сейчас 1 миллиард ежемесячно активных пользователей.

Раньше у организаций часто была ограниченная видимость того, где именно вошли пользователи, и им приходилось полагаться на сброс паролей или более широкие действия с аккаунтом, чтобы принудительно выполнить повторную аутентификацию, отметил Ensar Seker, CISO в SOCRadar. «Гранулярный контроль сеансов — более эффективный и менее disruptive подход. С точки зрения governance прозрачность сеансов повышает подотчетность и помогает расследованиям», — сказал он.

Полная картина активности сеансов

Active sessions позволяет администраторам видеть известные браузерные и app-сеансы в ChatGPT, Codex и API Platform. В частности, можно просматривать информацию об устройстве и браузере, примерное местоположение, дату и время входа, то, является ли устройство доверенным, и является ли сеанс текущим.

Чтобы воспользоваться функцией, пользователи могут перейти в «Settings» > «Security» > «Active sessions». После этого можно выйти из конкретных сеансов и удалить устройства из доверенных сервисов. Также доступен выход из всех сеансов сразу, что завершит сеансы на всех устройствах, однако на это может уйти до 30 минут.

В то же время OpenAI подчеркивает, что сведения о сеансах могут быть «примерными или неполными», и у функции есть ограничения. Она не показывает и не управляет подключенными приложениями или сеансами сторонних приложений, входами через сторонние сервисы, сеансами Codex CLI или недавно завершенными сеансами.

Кроме того, Active sessions нельзя использовать для аккаунтов, связанных с корпоративным single sign-on (SSO), включая Security Assertion Markup Language (SAML) и OpenID Connect (OIDC).

Лучше поздно, чем никогда

Хотя Active sessions — важное развитие в области безопасности и governance, эксперты отмечают, что функция базовая и давно напрашивалась.

С точки зрения безопасности, отметил он, OpenAI могла бы лучше контролировать ChatGPT, чтобы не допустить его использования злоумышленниками для размещения malware — это и есть одна из последних угроз для предприятий.

Секер из SOCRadar также указал, что такой уровень видимости и контроля предприятия ожидали от SaaS-платформ уже много лет. «Это позволяет администраторам и пользователям быстро выявлять несанкционированный доступ, завершать устаревшие сеансы и снижать риск того, что компрометация аккаунта будет оставаться незамеченной», — сказал он.

Итеративные обновления ломают governance

На прошлой неделе OpenAI обновила GPT-5.5 Instant и в приложении ChatGPT, и в API, чтобы «улучшить стиль и качество ответов», заявила компания. Ранее, в мае, она выпустила GPT-5.5 Instant как преемника GPT‑5.3 Instant, назвав его «в целом более умным» и менее склонным к hallucinations.

По словам OpenAI, обновление делает GPT-5.5 Instant «проще для чтения, естественнее в повседневных разговорах и лучше темпированным в задачах практической помощи, с меньшим числом слишком длинных или перегруженных буллетами ответов».

Но даже с такими инструментами, как Active sessions, предприятия по-прежнему сталкиваются с проблемами governance на фоне, по сути, непрерывных итеративных обновлений моделей. Это просто нежизнеспособно, сказал Shipley из Beauceron: «Как построить адекватный план тестирования для недетерминированной системы?»

Секер из SOCRadar отметил, что многие организации проводят тестирование безопасности, соответствия требованиям и бизнес-валидацию перед тем, как разрешить использование модели в production. Но «когда поведение модели меняется внутри той же семейства версий, ранее задокументированные допущения уже могут не полностью отражать фактическую производительность», — сказал он.

«Главная проблема governance в ИИ — не внедрение модели, а изменение модели», — сказал Секер. «Большинство организаций способны оценить модель один раз. Гораздо меньше готовы постоянно оценивать, как она меняется со временем».

Особенно остро это проявляется в регулируемых отраслях, где критичны auditability, repeatability и change management, добавил он. Даже полезные улучшения могут создавать риски governance, если организациям неясно, что именно изменилось и когда.

Valence Howden, advisory fellow в Info-Tech Research Group, отметил, что организации часто не могут оценить последствия итераций моделей относительно своих границ, а иногда и вовсе не знают о них.

Если раньше главная корпоративная проблема сводилась к тому, какая именно ИИ-модель используется, что она делает и кому принадлежит, то итеративные обновления размывают эти вопросы и повышают зависимость от сторонних практик и инструментов, на которые у организаций часто нет ресурсов, отметил он.

«Без возможности отказаться [от обновления] до того, как оно будет встроено, [предприятия] фактически проводят red-teaming обновлений вместе со своими клиентами», — сказал Howden.

Непрерывная игра

Сегодня команды безопасности работают на пределе, потому что от них ожидают управления быстро эволюционирующими моделями, новыми функциями и меняющимся поведением при одновременном соблюдении compliance, risk management и business continuity, сказал Секер из SOCRadar.

«Governance сложен, потому что организации больше не оценивают статичный продукт, — сказал он. — Они управляют “непрерывно эволюционирующим сервисом”, где возможности, интеграции и поведение пользователей могут меняться гораздо быстрее, чем традиционные циклы security review».

Howden из Info-Tech согласился с этим и заявил, что существующие governance-практики предприятий, особенно в части подотчетности, слабы, как и их практики управления рисками.

«Трудно внезапно стать хорошими в том, что и так плохо получается, — сказал он. — Кроме того, у компаний есть стимул к скорости и инновациям, поэтому они воспринимают governance как ограничение или вообще не хотят заниматься им».

Как должны действовать предприятия

Секер посоветовал в итоге рассматривать ИИ-модели как living systems, а не как фиксированные software releases.

По его словам, программы безопасности и governance должны включать continuous validation, monitoring и периодическую переоценку, а не полагаться только на однократные процедуры одобрения. Предприятиям также следует заранее выстраивать четкие ожидания по vendor change management, включая требование прозрачности в отношении обновлений моделей, изменений поведения и возможного влияния на существующие workflows.

«Эффективное governance в ИИ все больше зависит от видимости изменений, а не только от видимости рисков», — сказал Секер.

Материал — перевод статьи с английского.

Оригинал: OpenAI fixed a visibility problem; the governance problem remains.