Затраты на AI-токены для кодинга могут сравняться с фондом оплаты труда разработчиков

Рост расходов на кодовые агенты и модели оплаты по потреблению может уже в ближайшие два года вывести затраты на ИИ на одного разработчика на беспрецедентный уровень, предупреждает Gartner.

Компании скоро могут платить за использование AI-токенов разработчиками столько же, сколько и за их зарплаты.

По данным Gartner, в течение следующих двух лет эти расходы сравняются или даже превысят типичную месячную зарплату инженера-программиста.

Это связано не только с тем, что разработчики все активнее используют generative AI и agentic tools, но и с переходом вендоров к модели оплаты по потреблению: вместо прежнего фиксированного SaaS на одного пользователя предприятия теперь платят и за расход токенов разработчиками.

Старший главный аналитик Gartner Nitish Tyagi пояснил, что прогноз основан на среднемировой зарплате в $2 000 в месяц; это не означает, что расходы на AI-токены превысят все зарплаты. Например, в США годовые доходы могут измеряться шестизначными суммами.

Тем не менее такие траты вполне возможны, подчеркнул Tyagi. «Я слышал пугающие цифры вроде: “Мой разработчик потратил $20K за прошлый месяц” или “Бизнес-пользователь потратил $32K”».

Если эти суммы звучат шокирующе, в этом и состоит смысл предупреждения. «Цель — встревожить отрасль, показав влияние стоимости токенов, если ими не управлять и не контролировать их», — сказал он.

Низкая прозрачность, незрелый контроль

Компании быстро переходят от экспериментов к масштабному внедрению AI coding agents, но многие по-прежнему недооценивают расходы на токены, отметил Tyagi.

Причина в том, что структура затрат на инженерные задачи «очень изменчива», а прозрачности в том, как именно рассчитывается и выставляется счет за расход токенов, немного.

Вендоры AI-кодинга пока не предложили «зрелые встроенные возможности оптимизации затрат», сказал Tyagi, и цены, вероятно, продолжат расти, поскольку поставщики наращивают модели и одновременно пытаются оставаться прибыльными.

Из-за этого предприятиям трудно прогнозировать и контролировать расходы, а из-за высокой скорости развития AI многим организациям не хватает «зрелости и фреймворков» для определения ROI, отметил он. Потоки задач с участием агентов трудно контролировать, context windows раздуваются, бюджеты заканчиваются раньше ожидаемого, а расходы на токены становится сложно обосновать.

Кроме того, менее активные пользователи, например неразработчики, будут наращивать использование по мере того, как станут лучше понимать AI-инструменты и начнут сильнее на них полагаться, что еще больше увеличит потребление токенов и затраты.

Tyagi отметил, что, хотя AI чрезвычайно полезен, он не видит «прямой связи» между количеством токенов, которые расходуют разработчики, и ростом их продуктивности. Напротив, применение принципов context engineering для оптимизации или сокращения расхода токенов повышает качество.

«Tokenmaxxing не связан напрямую с более высокими выигрышами в продуктивности, — сказал Tyagi, — а вот оптимизация потребления токенов — связана».

При этом это вовсе не означает, что организациям следует отказываться от AI coding agents, подчеркнул он. Оптимизация расхода токенов означает лишь тратить столько, сколько нужно, не жертвуя качеством и ценностью, которую дает AI.

«Без управляемой инженерной операционной модели расходы могут расти быстрее, чем те выгоды в продуктивности, ради которых эти инструменты и создавались», — сказал Tyagi.

Как предприятиям контролировать использование токенов

Традиционная метрика продуктивности «число написанных строк кода» больше не работает, когда AI может почти мгновенно создавать целые Python-библиотеки. Вместо этого ценность следует измерять качеством, скоростью и метриками удовлетворенности клиентов, сказал Tyagi.

Например: как быстро разработчики могут выпускать важные функции? Насколько сокращается время между разработкой приложения и получением обратной связи от бизнеса, продукта и команды разработки? Быстрый выпуск функций при сохранении качества может дать конкурентное преимущество и улучшить опыт пользователей и клиентов, сказал он.

Gartner также рекомендует выстраивать сильное управление и контроль затрат. Например, ввести пороги расхода токенов, автоматизировать мониторинг использования и создать явные правила эскалации.

«Встраивание этих контролей в инженерные процессы обеспечивает последовательность и предотвращает неконтролируемый рост затрат», — отмечает компания.

Кроме того, предприятиям следует создать decision framework, ориентированный на use case. Это означает четко определить, когда следует использовать AI coding agents, и какой уровень автономности им назначать для конкретных задач. Далее эти задачи нужно классифицировать по трем моделям исполнения: developer-led, developer-with-agent и fully agent-led.

Предприятиям также следует выбирать модели в зависимости от сложности задачи. Работу нужно разбивать на более мелкие задания, которые могут выполнять меньшие модели, «с эскалацией только тогда, когда это требует сложность», советует Gartner. Инженерные команды должны сознательно маршрутизировать рабочие процессы, направляя простые и часто повторяющиеся задачи в меньшие модели, а frontier models использовать только для сложной и высокоценной работы.

Еще один способ снизить расходы — обязать команды соблюдать конкретные практики context engineering, говорит компания. Разработчиков нужно обучать оптимизировать контекст, который они передают AI: включать только релевантную информацию, по возможности сильнее ее сжимать и удалять лишние данные.

Кроме того, командам следует встроить проверки расхода токенов в циклы разработки. Регулярный обзор рабочих процессов с высоким потреблением токенов помогает находить неэффективности, корректировать практики и улучшать взаимодействие, отмечает Gartner.

Tyagi подчеркнул, что разработчики обычно оптимизируют скорость и удобство, а не экономическую эффективность, поэтому дисциплину по токенам нельзя обеспечить только за счет личного выбора разработчиков.

Его совет руководителям: не воспринимайте рост затрат на AI-кодинг как повод уходить от AI или переводить все на open generative AI models. «Цель всегда одна — оптимизировать затраты, не снижая ценность».

Начинайте с малого и сначала сосредоточьтесь на context engineering, сказал он. Оцените текущую зрелость инженерных процессов и выберите подходящий уровень автономности агента. AI assistive development может дать до 20% прироста продуктивности, «а это неплохой показатель».

Разработчикам он советует: «Сделайте context engineering одним из самых важных навыков для себя. Это поможет не только вашему работодателю, но и вашей карьере».

Изначально материал опубликован на CIO.com.

Материал — перевод статьи с английского.

Оригинал: AI coding token costs are on track to rival human payroll