Google добавила open source-рантайм Agent Executor для AI-агентов в production
Новый рантайм может помочь компаниям справиться с операционными трудностями при масштабировании AI-агентов в production, хотя более широкие вопросы governance по-прежнему остаются, говорят аналитики.
Google представила Agent Executor — open source-рантайм, призванный помочь предприятиям надежнее запускать AI-агентов в масштабе, по мере того как фокус смещается с создания прототипов агентов на решение эксплуатационных задач при выводе их в production.
Чтобы закрыть эти производственные проблемы, рантайм, по словам компании, получил возможности, рассчитанные на поддержку долгоживущих и распределенных workflow агентов.
Обычно долгоживущие workflow агентов — это AI-задачи, которые выполняются в течение длительного времени, от минут до дней, и часто включают несколько шагов, взаимодействие с системами, паузы на участие человека или восстановление после сбоев до завершения.
Для таких нагрузок рантайм поддерживает durable execution, позволяя workflow возобновляться после аварий или одобрения человеком, а также secure sandboxing для изоляции компонентов агента, механизмы согласованности сессий для распределенных workflow и функции восстановления соединения, призванные сохранять состояние выполнения во время сетевых сбоев, написала Google в блоге.
Рантайм также поддерживает «trajectory branching», что позволяет разработчикам тестировать альтернативные пути выполнения из сохраненных checkpoint без потери предыдущего контекста, добавила компания.
Кроме того, Agent Executor объединяет несколько моделей развертывания, включая on prem и предварительно собранных либо кастомных managed agents, сказала компания, позволяя пользователям сочетать любые или все из следующих вариантов: Google Antigravity, frontier-агентов, созданных Google, агентов, созданных пользователем и управляемых Google, а также кастомных агентов и агентов, использующих протокол Agent2Agent (A2A), по желанию.
Поиск решений для проблем надежности в production
Аналитики и эксперты видят ценность возможностей Agent Executor как для разработчиков, так и для предприятий.
«Durability, orchestration и resumability — это реальные блокеры для любых enterprise production agents», — сказал Advait Patel, senior reliability engineer (SRE) в Broadcom.
«Enterprise adoption убивают агенты, которые теряют состояние при перезапуске pod, сессии, которые портятся при конкурентной записи, или долгие workflow, не способные восстановиться после сетевого сбоя. Когда ваш агент начинает выполнять действия в реальных системах, он не может забывать, что сделал на середине пути», — пояснил он.
«Event log, snapshotting, модель single writer и восстановление соединения в Agent Executor — это именно те вещи, которые SRE-команды в прошлом году вынуждены были собирать вручную», — отметил Patel, добавив, что существующие фреймворки вроде LangChain и AutoGen отлично подходят для прототипирования, но чаще всего разваливаются в production, когда агенты работают часами или днями.
Для CIO, сказал Gaurav Dewan, research director в Avasant, операционные меры защиты рантайма, такие как secure sandboxing и checkpointing, могут оказаться не менее важными для анализа инцидентов и auditability.
В то же время он предупредил, что одних возможностей рантайма недостаточно, чтобы решить более широкие задачи governance и oversight, с которыми CIO продолжают сталкиваться при внедрении enterprise AI.
«Вопросы ответственности, explainability решений агентов, enforcement политик и безопасного доступа между взаимосвязанными системами все еще развиваются, — сказал он. — Поэтому, хотя распределенные рантаймы могут укрепить операционный фундамент развертывания агентов, для доверия, compliance и enterprise control на уровне CIO, вероятно, потребуются дополнительные слои governance и oversight сверх одной только runtime-инфраструктуры».
Использование инфраструктурного слоя для стратегического преимущества
Google, однако, не единственная компания, пытающаяся формировать emerging infrastructure layer для enterprise AI-агентов. Другие hyperscalers, такие как Microsoft с AutoGen и AWS с Bedrock AgentCore, продвигают open или interoperable frameworks, чтобы получить стратегическое преимущество.
«Появляется все больше признаков того, что hyperscalers сходятся к модели, где открытые или interoperable tools находятся на верхнем уровне стека, а монетизация сосредоточена в нижележащих инфраструктурных слоях», — сказал Dewan.
«Google, Microsoft и AWS все чаще предлагают SDK, агентские framework и инструменты orchestration, чтобы стимулировать adoption разработчиков и рост экосистемы, одновременно продолжая извлекать ценность из compute-инфраструктуры, managed AI platforms, data services и observability capabilities», — добавил он.
По словам Patel, стратегия Google вокруг Agent Executor напоминает путь, который hyperscaler прошел с Kubernetes десять лет назад: «Отдать рантайм, [и] стимулировать потребление Google Cloud через сервисы вроде Gemini Enterprise Agent Platform и Managed Agents API».
Он добавил: «[hyperscalers] поняли, что proprietary agent frameworks не будут приняты в enterprise-масштабе. Деньги — в cloud consumption, managed services и model inference. Инструменты поверху должны быть open, иначе им никто не будет доверять».
Эта статья впервые была опубликована на InfoWorld.
Материал — перевод статьи с английского.
Оригинал: Google adds open source Agent Executor to support AI agents in production