Реальная стоимость agentic AI: почему автономные агенты обходятся дороже токенов

Экономика автономных агентов зависит не столько от модели, сколько от того, сколько размышлений, циклов и вызовов инструментов вы им разрешаете.

Agentic AI перешёл из разряда конференционного хайпа в статью бюджета. И именно здесь разговор становится интереснее и менее комфортным. В отличие от традиционных AI-систем, которые отвечают на один запрос, классифицируют документ, рекомендуют действие или генерируют сводку, agentic AI-системы предназначены для достижения целей. Они планируют, вызывают инструменты, проверяют результаты, повторяют неудачные шаги, используют память, передают задачи другим агентам и иногда сами критикуют свою работу, прежде чем выдать ответ или совершить действие.

Эта дополнительная автономность и есть ценностное предложение. Но она же создаёт и проблему стоимости.

Один чат-бот-запрос может потреблять несколько тысяч токенов. Полезный agentic workflow может расходовать сотни тысяч или миллионы токенов в день, потому что он не просто отвечает на вопрос. Он декомпозирует задачу, извлекает контекст, рассуждает по вариантам, вызывает API, проверяет результат и нередко делает несколько проходов, прежде чем получить итог. Поэтому экономику нужно понимать на уровне “agent instances”, а не только вызовов модели.

Для оценок ниже я использую усреднённую стоимость токенов в $3 за 1 миллион токенов. Это не прайс-лист конкретного вендора. Это плановая усреднённая величина, которая предполагает смесь входных и выходных токенов, шагов рассуждения, retrieval-augmented generation, суммаризации, вызовов инструментов, обновлений памяти и эпизодического использования больших context window. Одни компании будут платить меньше за счёт объёмных скидок или перевода задач на более компактные модели. Другие заплатят больше, используя premium-модели, long-context prompts, web browsing, загрузку больших документов и повторяющиеся циклы рассуждения.

Базовая формула проста. Если агент расходует 2 миллиона токенов в день, за год это 730 миллионов токенов. При $3 за миллион токенов один такой агент стоит около $2 190 в год только по токенам. Эта цифра кажется удивительно низкой, пока вы не умножите её на число агентов, workflow и пользователей, а также на сопутствующую инфраструктуру, необходимую для безопасной эксплуатации таких систем.

Сколько на самом деле стоит агент

В используемой здесь модели годовая стоимость токенов на одного агента находится в диапазоне примерно от $1 095 до $3 833 в зависимости от сценария.

• Лёгкий агент для HR-рекрутинга или onboarding, потребляющий 1 миллион токенов в день, стоит около $1 095 в год.
• Более требовательный агент для software engineering, потребляющий 3,5 миллиона токенов в день, стоит около $3 833 в год.
• Агенты customer support стоят примерно $2 190 в год.
• Агенты для проверки legal contract стоят около $2 409 в год.
• Агенты security triage обходятся примерно в $2 738 в год.
• Исследовательские агенты стоят около $3 066 в год.

Эти цифры полезны, но неполны. В них учтено только потребление токенов LLM и не учтены orchestration platforms, vector databases, observability, оценка моделей, security controls, контроль workflow, human review, интеграция с enterprise-приложениями, data pipelines, audit logging, prompt management и инженеры, которые строят и поддерживают такие системы. В реальных внедрениях я ожидал бы, что полная операционная стоимость будет в 2–5 раз выше базовой стоимости токенов. Для регулируемых или критически важных сред коэффициент может быть ещё выше.

Именно здесь многие бизнес-кейсы agentic AI становятся менее очевидными. Вызов модели может быть недорогим, но система вокруг модели — нет. Агент, который может обновлять customer relationship management system, одобрять возврат, формировать purchase order или рекомендовать действие по сдерживанию инцидента безопасности, нуждается в guardrails, правах доступа, логировании, механизмах отката и маршрутах эскалации к человеку. Это не опциональные функции. Это разница между демонстрацией и enterprise-системой.

Сценарии использования, которые имеют экономический смысл

Customer support — один из самых очевидных сценариев. Типичное внедрение автоматизации поддержки может использовать восемь агентов: классификатор входящих запросов, агент поиска знаний, агент подготовки ответа, агент эскалации, агент проверки качества, агент обновления CRM, агент определения тональности и аналитический агент. При 2 миллионах токенов на агента в день каждый агент стоит около $2 190 в год только по токенам, а общая годовая сумма составляет примерно $17 520. Если такая система снимает хотя бы умеренное количество тикетов или повышает продуктивность сотрудников поддержки, экономика может быть привлекательной.

Sales development — ещё один практический пример. Пятиагентная система для исследования аккаунтов, обогащения лидов, персонализации писем, обновления CRM и планирования follow-up может потреблять 1,2 миллиона токенов на агента в день. Это даёт годовую стоимость около $1 314 на агента или $6 570 на всю команду агентов. Такой подход может быть убедительным, если он улучшает качество pipeline, но он же может быть расточительным, если агенты массово генерируют низкокачественные outreach-сообщения. Стоимость ущерба бренду не измеряется в токенах.

Software engineering дороже, но потенциально полезнее. 12-агентная система, охватывающая анализ требований, архитектуру, генерацию кода, тестирование, ревью, security checks, документацию, отладку CI, рефакторинг, release notes, анализ зависимостей и поддержку hot-fix, может потреблять 3,5 миллиона токенов на агента в день. Это даёт примерно $3 833 на агента в год или около $45 990 на всю систему. По сравнению с зарплатами инженеров стоимость токенов невелика. Настоящий вопрос в том, действительно ли система повышает throughput без роста дефектов, уязвимостей и сложности сопровождения.

Security operations тоже хорошо ложатся в agentic model, потому что работа повторяющаяся, чувствительная ко времени и сильно завязана на контекст. 10-агентная система security triage может включать агентов для triage алертов, анализа логов, threat intelligence, расследования на endpoint, анализа сети, суммаризации инцидента, тикетинга, подготовки compliance evidence, эскалации и post-mortem. При 2,5 миллиона токенов на агента в день годовая стоимость токенов составляет около $2 738 на агента или $27 375 на систему. Это легко оправдать, если система снижает alert fatigue и ускоряет реакцию, но рискованно, если агенты галлюцинируют причинно-следственные связи или прячут критические сигналы в уверенных сводках.

Финансы, legal, административные процессы в healthcare, market research, HR и supply chain тоже выглядят жизнеспособно:

• Шестизвенная система закрытия периода в финансах может стоить около $9 855 в год по токенам.
• Четырёхагентная система проверки legal contract может стоить около $9 636.
• Семиаагентный административный workflow в healthcare может стоить около $13 797.
• Competitive intelligence с шестью агентами может стоить $18 396.
• HR-рекрутинг и onboarding с пятью агентами — $5 475.
• Планирование supply chain и управление исключениями с восемью агентами — $21 024.

Во всех 10 примерах use case, которые я упомянул в этом разделе, модель предполагает 71 агента и общий годовой расход токенов около $175 638.

Сравнение с традиционным AI

Экономику agentic AI всегда нужно сравнивать с более простыми подходами. Traditional AI, workflow automation, rule engines, robotic process automation и не-агентные LLM-вызовы часто дешевле, проще в управлении и предсказуемее. Agentic AI обычно избыточен для задач вроде классификации, извлечения, суммаризации, маршрутизации или черновой генерации в узком контексте. Детерминированный workflow с одним вызовом модели может выполнить работу за долю стоимости и риска.

Agentic-системы оправданы тогда, когда процесс требует суждения на нескольких шагах, динамического планирования, вызова инструментов, обработки исключений и адаптации к неполной информации. Они полезны, когда путь к ответу нельзя полностью запрограммировать заранее. Они менее полезны, когда компании используют их как модную замену базовой автоматизации.

Лучшая архитектура обычно гибридная. Используйте традиционную автоматизацию там, где процесс стабилен. Используйте не-агентный AI там, где задача ограничена. Используйте agentic AI только там, где автономность создаёт измеримый эффект. Это означает меньшее число агентов, более узкий scope, явные бюджеты, routing моделей, контроль токенов и human checkpoints для решений с высоким влиянием.

Финансовая ошибка, которую многие организации допустят, — это восприятие агентов как цифровых сотрудников с почти нулевой предельной стоимостью. Это не так. Это вероятностные программные компоненты, которые потребляют токены, вызывают инструменты, создают операционные зависимости и требуют надзора. Счёт за токены может быть терпимым. Счёт за governance — нет.

Agentic AI вполне может стоить своих денег. Во многих случаях годовой расход токенов на полезную команду агентов ниже полной стоимости одного сотрудника. Но это не означает, что технология дёшева. Компании должны измерять стоимость агента на завершённый бизнес-результат, а не на запрос или вызов модели. В конце концов вопрос не в том, сколько стоит агент. Задайте себе правильный вопрос: оправдывает ли автономность, которую даёт агент, ту сложность, которую он добавляет?

retrieval-augmented generation

Материал — перевод статьи с английского.

Оригинал: The real cost of agentic AI