Корпоративные облачные среды получили функцию «отмены» для AI-агентов после запуска Commvault AI Protect.
Автономное ПО теперь перемещается по инфраструктуре, потенциально удаляя файлы, читая базы данных, разворачивая серверные кластеры и даже переписывая политики доступа. Commvault увидела в этом проблему управления и выпустила AI Protect — систему, предназначенную для обнаружения, мониторинга и принудительного отката действий автономных моделей, работающих в AWS, Microsoft Azure и Google Cloud.
Традиционное управление полностью опирается на статические правила. Вы выдаете пользователю конкретные разрешения, и он выполняет предсказуемую линейную задачу. Если что-то идет не так, ответственность понятна. AI agents, однако, демонстрируют emergent behaviour.
Когда агент получает сложный prompt, он может соединять одобренные разрешения в потенциально несанкционированных комбинациях, чтобы решить задачу. Если агент решит, что самый эффективный способ оптимизировать затраты на облачное хранение — удалить всю production-базу данных, он выполнит эту команду за миллисекунды.
Человеческий инженер может остановиться перед выполнением разрушительной команды и усомниться в логике. AI agent просто следует своему внутреннему циклу рассуждений. Он выполняет тысячи API-запросов в секунду, намного опережая скорость реакции человеческих центров операций безопасности.
Pranay Ahlawat, Chief Technology and AI Officer в Commvault, сказал: “В agentic environments агенты изменяют состояние данных, систем и конфигураций так, что эффект накапливается быстро и его трудно отследить. Когда что-то идет не так, командам нужно восстановить не только данные, но и весь стек — приложения, конфигурации агентов и зависимости — до известного хорошего состояния.”
Новый класс инструментов управления для облачных AI-агентов
AI Protect — пример новых инструментов, которые непрерывно сканируют облачный след предприятия, чтобы выявлять активных агентов. Shadow AI по-прежнему остается серьезной проблемой для корпоративных IT-отделов. Разработчики регулярно поднимают экспериментальных агентов, используя корпоративные учетные данные, не уведомляя команды безопасности, и подключают language models к внутренним data lakes, чтобы тестировать новые рабочие процессы.
Commvault выводит этих скрытых участников на свет. После обнаружения ПО отслеживает конкретные API-вызовы агента и его взаимодействия с данными в AWS, Azure и GCP. Оно регистрирует каждый запрос на чтение базы данных, каждое изменение хранилища и каждое изменение конфигурации.
Функция rollback создает защитную сетку. Если модель hallucinate или неверно интерпретирует команду, администраторы могут вернуть среду в точное состояние, которое было до того, как машина инициировала разрушительную последовательность.
Однако облачная инфраструктура сильно stateful и глубоко взаимосвязана. Откат сложной цепочки автоматических действий требует точного, основанного на ledger отслеживания. Нельзя просто восстановить одну таблицу базы данных, если машина одновременно изменила сетевые правила, запустила downstream serverless-функции и поменяла policies identity access management во время своей работы.
Commvault соединяет традиционную архитектуру резервного копирования с непрерывным облачным мониторингом, чтобы добиться этого. Определяя blast radius сессии агента, ПО изолирует ущерб. Оно отделяет конкретные изменения, внесенные AI, от легитимных изменений, сделанных людьми в тот же период. Это предотвращает массовый rollback, который мог бы удалить корректные транзакции клиентов или стереть часы законной инженерной работы.
Машины и дальше будут выполнять задачи быстрее, чем люди смогут их контролировать. Сейчас приоритет — внедрять защитные механизмы, которые гарантируют, что автономные действия можно мгновенно и точно обратить вспять.
См. также: Citizen developers теперь получили собственного Wingman
Хотите узнать больше об AI и big data от лидеров отрасли? Посетите AI & Big Data Expo, которая пройдет в Амстердаме, Калифорнии и Лондоне. Это масштабное мероприятие входит в состав TechEx и проводится совместно с другими крупными технологическими событиями, включая Cyber Security & Cloud Expo. Для получения дополнительной информации нажмите здесь.
AI News работает на базе TechForge Media. Ознакомьтесь с другими предстоящими enterprise technology мероприятиями и вебинарами здесь.
Материал — перевод статьи с английского.
Оригинал: Commvault launches a ‘Ctrl-Z’ for cloud AI workloads