Рост стоимости токенов заставляет компании пересматривать планы по внедрению ИИ
Стоимость токенов вынуждает компании корректировать сроки развертывания ИИ на фоне роста расходов на вычисления, говорится в отчете EY, опубликованном на этой неделе. Компания опросила 500 лиц, принимающих решения в США, на уровне SVP и выше.
Более 4 из 5 компаний, инвестирующих в ИИ, сообщили о внутренних опасениях по поводу потребления токенов и связанных с этим затрат на внедрение ИИ. При этом 37% компаний расширяют масштаб запланированных ИИ-инициатив, несмотря на эти опасения, тогда как только 15% сократили объем внедрения.
«Компании демонстрируют признаки осознания необходимости расставлять приоритеты, а не просто наращивать внедрение», — сказал в отчете глобальный руководитель EY по консалтингу в сфере ИИ Дэн Диасио. «Эти приоритеты должны быть сосредоточены на том, чтобы делать другие вещи, а не те же самые иначе».
Мнение Dive:
После периода масштабных инициатив по внедрению ИИ компании сталкиваются с растущими расходами на ИИ по статьям вычислений, ПО и обучения. Для некоторых в центре внимания оказался старый вопрос: покупать или разрабатывать самостоятельно.
Три четверти руководителей с текущими инвестициями в ИИ считают, что готовые программные решения не соответствуют их ИТ-потребностям, а почти 9 из 10 компаний либо уже полностью развернули, либо пилотируют программы по созданию ИИ внутри компании, согласно EY.
Поставщики все лучше понимают растущую чувствительность enterprise-клиентов к стоимости. OpenAI ранее на этой неделе снизила стоимость своих моделей Luna и Terra, а Oracle и AWS в прошлом месяце представили изменения в продуктах, призванные помочь руководителям эффективнее управлять расходами.
«Это технология, которая сдвигает ориентиры каждые шесть недель, поэтому понятно, что руководители пока не выстроили дорожную карту или правильный нарратив изменений», — сказал Диасио в отчете. «Организациям нужно осознанно выбирать, какие инициативы брать в работу, и проводить их через финансовую ценность, иначе они будут просто топтаться на месте».
С учетом затрат для руководителей также особенно важна прозрачность. Более двух третей компаний не имеют точной видимости использования ИИ-программного обеспечения, согласно данным Flexera, опубликованным в июне. Около 3 из 5 компаний сообщили о росте перерасхода на ИИ в годовом выражении, выяснила Flexera.
FinOps, практика, изначально ориентированная на облачные расходы, расширила сферу применения и на управление затратами на ИИ. Tokenomics Foundation, проект-ответвление Linux Foundation, представленный в прошлом месяце, призван помочь компаниям взять под контроль расходы на ИИ на уровне всей организации.
Материал — перевод статьи с английского.
Оригинал: As token costs mount, leaders revise their AI plans