Что происходит, когда инженерные команды перестраиваются вокруг AI agents

Основатели Browserbase, Mastra, Fireworks AI, Drata, Mya, MindFort и Corridor обсудили вызовы AI-разработки на мероприятии Camp AI «Agents at Work» в Сан-Франциско.

Вчера вечером я насчитал в Сан-Франциско как минимум 10 мероприятий, нацеленных на сведение AI-стартапов и VC. Обычный четверг.

Но мероприятие Camp AI «Agents at Work» Camp AI «Agents at Work» (при поддержке Auth0) выделялось тем, что показало компании, которые на разных стадиях перестраивают свои инженерные процессы вокруг AI agents. Browserbase, Mastra, Fireworks AI, Drata, Mya, MindFort и Corridor входят в экосистему поставщиков, которые пытаются обеспечить безопасный и производительный agentic AI, но самыми показательными оказались их собственные успехи и трудности при перестройке инженерных оргструктур под agents.

Agentic AI перестраивает структуру команд

Paul Klein IV, основатель и CEO Browserbase, произнес самую запоминающуюся фразу вечера, говоря о скорости внедрения AI внутри инженерных команд. «Если AI не выполняет всю твою работу, значит, у тебя проблема с навыком», — сказал Klein.

Abhi Aiyer, основатель и CTO Mastra, сказал, что результатом становятся значительно более компактные команды, способные выполнять куда больший объем работ. «Один человек может вести целый feature project, потому что за ним стоит армия AI agents от одного до бесконечности», — сказал Aiyer.

Узкое место в коде, сгенерированном AI, сместилось

Несколько участников панели утверждали, что AI-системы теперь генерируют software быстрее, чем организации успевают безопасно проверять и вводить его в эксплуатацию. Aiyer отметил, что инженерные команды открывают существенно больше pull request, а пропускная способность ревью становится новым узким местом.

Klein подчеркнул важность ограничения экспериментального AI-вывода, чтобы корректно снижать риски в средах развертывания. «Если это критический путь и это видно клиенту, никакого slop», — сказал он. «Если это не критический путь и не видно клиенту, можно slop».

Доверие и ответственность — основные препятствия

Выступающие постоянно подчеркивали observability и accountability как проблемные зоны для автономных agents. Rob Ferguson, вице-президент по технологиям и стратегии Fireworks AI, утверждал, что ответственность не исчезает только потому, что output сгенерировал AI. «Неважно, ты это набрал или промптил, ответственность все равно на тебе», — сказал Ferguson.

Bhavin Shah, вице-президент по AI product в Drata, сказал, что enterprise AI-системы все чаще требуют детальной auditability. «Agent постоянно говорит пользователю: вот действие, которое я собираюсь выполнить, вот что я уже сделал», — отметил он.

Защита agentic workflow

Демонстрации Auth0 были в основном сосредоточены на authentication, authorization и runtime controls для AI agents, взаимодействующих с APIs и серверами Model Context Protocol (MCP). Новый продукт компании для authentication в MCP, который на этой неделе получил general availability, предназначен для защиты взаимодействия agents с MCP-серверами и APIs.

Monica Bajaj, SVP engineering в Okta, подчеркнула важность минимизации зоны риска, когда agents автономно работают в enterprise-системах. «Как нам убедиться, что эти tokens не являются long-lived tokens?» — спросила она, добавив: «Мы следим за тем, чтобы blast radius был минимальным».

Инфраструктура становится настоящим AI-дифференциатором

Klein утверждал, что многие ограничения AI сегодня уже не связаны с самими underlying models. «Скрытый потенциал AI на самом деле — это проблема инфраструктуры, а не качества модели», — сказал он.

Klein отметил, что orchestration, tooling, permissions и data pipelines для training data все чаще определяют, смогут ли AI-системы успешно работать в production.

Другие интересные демонстрации компаний

Mya показала AI program manager, который собирает данные из Slack, Gmail, Jira, GitHub и заметок встреч, чтобы автоматически отслеживать риски проекта и его операционный статус. MindFort продемонстрировала autonomous penetration testing agents, предназначенные для непрерывной проверки enterprise-приложений на уязвимости во время разработки и в runtime. А Corridor показала AI security guardrails, которые заранее индексируют codebase и встраивают рекомендации по secure coding прямо в AI coding workflows.

Mastra также говорила о переработке developer documentation и frameworks специально для AI agents, а не для людей-разработчиков.

Материал — перевод статьи с английского.

Оригинал: What happens when engineering teams reorganize around AI agents