Скрытая цена корпоративного ИИ: 6,4 часа в неделю на «botsitting»
По мере того как ИИ распространяется по рабочим процессам, он создает новый парадокс производительности: технология делает работу ощущаемо быстрее, но на деле перекладывает на сотрудников дополнительную нагрузку — нужно давать контекст, проверять качество и повторять это во множестве разрозненных инструментов.
Согласно новому опросу 6000 штатных цифровых работников, проведенному Work AI Institute Glean, это приводит к двум новым моделям поведения: «botsitting» — всей невидимой работе, которая нужна, чтобы ИИ вообще можно было использовать; и «botshitting» — выпуску сгенерированной ИИ работы, которая не проверена, не до конца понятна или, возможно, даже ненадежна. Отчет опроса был подготовлен совместно экспертами Work AI Institute, Emory University, Stanford University, UC Berkeley, UC Santa Barbara, UNC Charlotte, University College London и University of Notre Dame.
«Это во многом порочный круг, который сам себя подпитывает», — сказала Rebecca Hinds, руководитель исследовательского центра Glean Work AI Institute, исследовательского объединения экспертов по ИИ. По ее словам, компаниям нужно начать понимать и учитывать «огромный, огромный объем человеческого труда, который лежит в основе всего этого».
Сотрудники используют ИИ чаще, но раздражаются все сильнее
Нет сомнений, что ИИ быстро становится центральным помощником на рабочем месте. Work AI Institute Glean выяснил, что 87% цифровых работников используют ИИ: он уже автоматизирует более четверти их работы и экономит около 11 часов в неделю.
Но лишь 13% говорят, что использование ИИ существенно улучшило показатели их компании, а экономия времени съедается той же технологией, которая эту экономию и создает. Сотрудники теряют около трети рабочей недели — 6,4 часа — на botsitting: подачу контекста в ИИ, контроль результатов, исправление ошибок, очистку ИИ-генерированной работы и переключение между инструментами ИИ.
«Мы видим очень высокую долю использования нескольких инструментов, и часто эти инструменты не связаны между собой», — сказала Hinds.
Что касается подачи контекста, большие языковые модели (LLM) обучаются на огромном массиве интернета, но не всегда на данных конкретной компании. Поэтому сотрудникам часто приходится отдельно объяснять продукты, клиентов, услуги своей организации и другие детали.
«Люди часто раздражаются, когда инструменты недостаточно понимают повседневную работу, чтобы быть полезными», — сказала Hinds. Кроме того, из-за использования нескольких инструментов им нередко приходится снова и снова повторять один и тот же запрос.
«Для работников утомительно не только делать это, но и видеть, что эта работа остается незамеченной, часто не вознаграждается и не признается внутри организации», — сказала она.
Похожая проблема возникает и при проверке результатов: сотрудникам приходится ловить ответы, которые внешне выглядят отполированными и завершенными, но на деле могут быть ошибочными, неполными или без важного контекста. Отладка сильнее всего выматывает, потому что ее часто делает человек, который не участвовал в создании первоначального результата, отметила Hinds, и ему сначала нужно разобраться в исходной подложке.
При этом, по словам Hinds, «не весь botsitting плох». «Конечно, мы хотим, чтобы у работников был определенный уровень ответственности и контроля», — сказала она.
Но если такой контроль не нужен, он может привести к botshitting: пользователи выпускают сгенерированную ИИ работу, которую не проверили, потому что перегружены или ограничены во времени. В этом признались 69% пользователей, а 41% сказали, что иногда сдают работу, которую не смогли бы объяснить, если бы их попросили. Еще 28% перекладывают на ИИ ошибки, которые сами же и допустили.
«Botshitting — это перекладывание критического человеческого мышления, суждения и понимания», — объяснила Hinds. «Вы перекладываете ту работу, которая абсолютно должна оставаться за человеком».
Сотрудники, использующие несколько AI agents, значительно чаще делают это, добавила она, потому что agents легко масштабируются и могут выйти из-под контроля, если вокруг них не выстроены правильные ограничения и права доступа. В итоге перегруженные пользователи просто перестают пытаться все проверять.
«Негативные последствия часто становятся заметны только через 3, 4, 5 шагов», — сказала Hinds. «А потом требуется вся эта работа по очистке и расследованию, чтобы понять, где agent пошел не так».
Использовать ИИ… но не слишком активно
Интересно, что более половины опрошенных работников сказали: ИИ помогает им в повседневной работе больше, чем менеджеры, и с ним проще сотрудничать, чем с людьми.
Но, похоже, у них возникает проблема «Златовласки», когда речь заходит о том, как именно они делятся информацией об использовании ИИ. Среди тех, кто сам считает себя высокоэффективным пользователем ИИ, 54% используют неутвержденные инструменты или применяют одобренные инструменты с нарушением правил, а 36% скрывают, насколько сильно ИИ им помогает.
Как объяснила Hinds, в зависимости от контекста и уровня психологической безопасности, который создала организация, демонстрация использования ИИ может быть «по-разному полезной или вредной», а с другой стороны, скрывать, что вы слишком активно используете ИИ, тоже может быть рискованно, потому что это может сделать вас менее ценным или восприниматься как снижение вашей ценности.
Баланс сложный, потому что, по ее словам, «во многих организациях существует огромное давление, требующее демонстрировать владение ИИ, показывать, что вы power user».
Что по-другому делают успешные организации
На самом деле, говорится в отчете, «компании, которые вырываются вперед, делают нечто иное. Они тратят не большую долю своего времени на ИИ, используя ИИ. Они тратят большую долю на работу вокруг него: настройку контекста, определение того, как выглядит “хорошо”, формирование суждения и решение, что вообще никогда не следовало отдавать модели».
Наиболее трансформационные организации заранее решают проблемы ИИ: проводят обучение и поддержку, рассматривают ИИ как возможность переработать сами рабочие процессы и официально вознаграждают навыки работы с ИИ. Кроме того, отмечается, что самый трудный навык — понимать, когда ИИ не нужно использовать.
Это «не просто клики по инструменту и не просто использованные токены, а реальные навыки, настоящее обучение», — сказала Hinds. Помимо инвестиций в сотрудников, такие компании четко формулируют стратегию ИИ и объясняют, зачем она нужна. Управление должно быть тоже «живым и дышащим», а политики — постоянно пересматриваться.
Причем это должно происходить на всех уровнях, включая топ-менеджмент, сказала Hinds: «Важно видеть, как руководители используют технологию, и делятся как успехами, так и неудачами».
Успешные компании также активно используют метрики, привязанные к уже существующим ключевым показателям эффективности (KPI). Они измеряют качество, эффективность и вовлеченность сотрудников по-разному и дают данные в руки самим работникам, чтобы те могли оценивать собственное внедрение и результат.
«Речь скорее не о слежке, а о обратной связи о том, как мы работаем вместе», — сказала Hinds.
По ее словам, «интересно, но, возможно, не удивительно» и то, что работники все чаще используют сам ИИ как учителя и предпочитают его другим каналам обучения. Это подчеркивает важность low-code и no-code инструментов с низким порогом входа и организационным контекстом, встроенных прямо в рабочие процессы.
«Это резко отличается от того, что мы видели с предыдущими технологиями», — сказала она.
Первоначально материал был опубликован на CIO.com.
Материал — перевод статьи с английского.
Оригинал: The hidden cost of enterprise AI: 6.4 hours a week babysitting bots