Как сдержать расходы на AI в агентной эпохе: 5 шагов от OpenAI

Несмотря на снижение стоимости token, компании по-прежнему сталкиваются с трудностями при управлении расходами на AI по мере роста использования. Этот сдвиг означает, что IT-руководителям нужно пересмотреть подход к инвестициям и удерживать бюджет под контролем.

Разрастание AI-среды создает для предприятий проблемы с контролем затрат, следует из исследования Flexera. Около трех пятых IT-специалистов сообщили, что перерасход на AI вырос, а более двух третей заявили, что у них нет прозрачности в использовании AI-программного обеспечения.

Поставщик больших языковых моделей OpenAI во вторник опубликовал пять шагов, которые помогают компаниям контролировать расходы, а также понимать использование AI и создание ценности в агентной эпохе. Этот план действий стал очередным шагом вендора в ответ на растущие опасения по поводу затрат на AI.

Компания предложила IT-руководителям повышать прозрачность использования AI и расходов, отслеживать результаты моделей, внедрять governance, управлять инвестициями в AI как более широким портфелем и подбирать продукт под спрос после того, как он доказал свою ценность.

Определение общей ценности, создаваемой AI внутри организации, включает такие показатели, как сэкономленное время, улучшение принятия решений и количество выполненных задач, по словам поставщика LLM.

Понимание ценности AI

Хотя уверенность бизнеса в AI растет, восприятие ценности технологии не всегда совпадает на уровне C-suite, и вопросы затрат начинают становиться для руководителей одной из приоритетных тем.

CIO и IT-руководители, принимающие решения, сообщили о более высоком уровне уверенности в том, что технология способствует росту выручки, чем CEOs и члены совета директоров, согласно исследованию Protiviti.

Тем временем такие компании, как Prudential Financial и Shutterstock, внедряют жесткие стратегии управления затратами на AI. CTO и CISO Shutterstock Courtney Totten сказала, что понимание затрат на AI «больше не является необязательным, это основа бизнес-стратегии», выступая ранее в этом году на конференции FinOps X 2026.

OpenAI, один из крупнейших поставщиков frontier AI models, рекомендовала IT-руководителям предпринять пять шагов, чтобы увереннее инвестировать в использование AI и управлять расходами.

Во-первых, руководителям предприятий следует повысить прозрачность того, кто использует AI, какие продукты и модели они применяют, какая мощность потребляется и какую работу поддерживает это использование.

«Без такой прозрачности растущий счет трудно интерпретировать», — говорится в блоге OpenAI.

Во-вторых, более дешевые модели не всегда дают лучший результат, а значит могут завершаться неудачей и повторными попытками, увеличивая расход token. OpenAI предложила IT-руководителям оценивать модели исходя из той работы, которую от них требуют, и измерять полную стоимость достижения результата, включая использование модели и инструментов, число попыток и долю завершения.

IT-руководители могут отслеживать стоимость модели по принятым результатам, особенно для приоритетных workflows.

«В customer support это может быть закрытый кейс, — указала OpenAI. — В engineering это может быть проверенное изменение, прошедшее review. Сопоставьте эту стоимость с бизнес-ценностью, такой как сэкономленное время, сокращенный cycle time, защищенная выручка, предотвращенный риск или созданная capacity».

Governance также должен работать как «operating layer, которая определяет, какая AI-работа может масштабироваться», отметила компания, выпускающая LLM.

Governance должен включать описание того, к какому контексту, данным, приложениям и инструментам могут получать доступ LLM и какие действия им разрешено выполнять. IT-руководителям также следует определить, кто утверждает более рискованные шаги для LLM и как предоставляется дополнительная capacity для ценных workflows.

И хотя предприятия могут шире открывать доступ для повседневных функций, повышающих продуктивность и улучшающих workflows, IT-руководителям также следует делать более стратегические ставки на основе proprietary information, по словам поставщика LLM.

«Наиболее сильные кандидаты — это workflows, которые повторяются в значимом масштабе, имеют четкую ответственность и могут быть измерены по качеству, риску и бизнес-ценности», — сказала OpenAI.

Наконец, после того как workflow начинает приносить ценность, IT-руководителям следует «сопоставить продукт, capacity и модель поддержки с его спросом», сказала OpenAI.

Материал — перевод статьи с английского.

Оригинал: How to keep AI costs in check as agentic drives usage