Опасность emotion AI: почему распознавание эмоций сотрудников в компании — плохая идея

opinion

15 мая 2026 года · 8 мин.

Называйте это emotion AI, affective computing, sentiment analysis или algorithmic affect management — как ни назови, это плохая идея.

Фото: Thinkstock

«Если не можешь измерить, не можешь исправить».

Это расхожая бизнес-максимa, и обычно она верна. Но что, если исправить нужно не процесс, а отношение сотрудников?

Революция ИИ сделала возможным измерять эмоции и психические состояния. Так почему бы не использовать это повсеместно и не устранить то, что не работает?

Именно на этом основана идея emotion AI, которое также называют «affective computing», «sentiment analysis» или «algorithmic affect management». Смысл в том, чтобы с помощью датчиков и ИИ обнаруживать, интерпретировать, классифицировать и использовать человеческие эмоции на рабочем месте.

Благодаря улучшениям и прорывам в широком спектре технологий — включая computer vision, natural language processing, анализ речи и голоса, биометрию, machine learning и deep learning, а также аппаратное обеспечение edge computing — emotion AI теперь стало возможным.

Многие компании уже предлагают готовые решения для приложений эмоционального ИИ, включая Cogito, Affectiva, Hume AI, Entropik и HireVue.

Идея проста: собрать данные о сотрудниках, обработать их с помощью ИИ и получить результат, показывающий, что чувствует человек. В зависимости от решения данные могут поступать из следующих источников:

• Голосовые признаки — высота тона, интонация, ритм, микропаузы, голосовой стресс
• Мимика — видеоанализ видеозвонков и изображений с камер на рабочих столах
• Текст — массовый анализ тональности электронных писем, сообщений в Slack/Teams, ответов на опросы и оценок эффективности
• Физиологические биосигналы — вариабельность сердечного ритма, кожно-гальваническая реакция (через носимые устройства)
• Поведенческая телеметрия — ритм нажатий клавиш, динамика движений мыши, шаблоны переключения между приложениями
• Поза и взгляд — компьютерное зрение с камер, установленных на рабочих местах

Несмотря на прогресс и разнообразие решений, эта область в целом проблемна для бизнеса.

Почему компании хотят использовать emotion AI

Диапазон бизнес-целей, которые подталкивают к использованию emotion AI, очень широк. Самая обоснованная причина — безопасность. Работников на опасных должностях, например на заводах и за рулем грузовиков, можно защищать с помощью ИИ-инструментов, помогающих избежать травм и гибели. Типичный пример — технология, которая распознает, что водитель грузовика засыпает, и либо подает сигнал тревоги, либо переключает управление на автопилот, чтобы остановить машину.

Другая цель — улучшение клиентского сервиса. Компании вроде MetLife используют ПО, которое отслеживает голос, тон и высоту голоса операторов кол-центра, чтобы они не огрызались и не демонстрировали раздражение клиентам.

HR-отделы могут использовать ИИ, чтобы понимать настроение в коллективе, анализируя корпоративные коммуникации и опросы сотрудников. Компании также могут проверять наличие выгорания и использовать эту технологию для найма. Применяя emotion AI к видеособеседованию, компании, возможно, смогут делать более удачные наймы.

Emotion AI на рабочем месте может дать и другие преимущества: снизить текучесть кадров, расходы на здравоохранение и риски для безопасности, одновременно повышая удовлетворенность клиентов, производительность работников и понимание проблем в команде или у менеджмента.

Что не так с emotion AI

Хотя измерять эмоции и психические состояния сотрудников, а затем действовать на их основе кажется сильной идеей, она часто опирается на плохую науку.

Системы emotion AI, которые делают ставку на мимику, например, основаны на теории Пола Экмана, американского психолога из Университета Калифорнии в Сан-Франциско. Еще в конце 1960-х он предположил, что небольшой набор базовых человеческих эмоций порождает универсальные, надежно распознаваемые выражения лица across cultures.

Но теория Экмана была поставлена под сомнение метаанализом 2019 года под руководством Лизы Фельдман Барретт в статье, опубликованной в Psychological Science in the Public Interest. Она изучила более 1000 исследований и пришла к выводу, что не всегда можно надежно судить об эмоциональном состоянии человека только по движениям лица.

Большинство решений emotion AI строятся на предположении, что эмоции всех людей можно интерпретировать одинаково, и это почти наверняка неверно, учитывая, насколько различаются люди по внешности, голосу, личности и физиологии.

Как и во многих областях бизнеса и лидерства последних лет, ИИ часто воспринимается как ответ на трудности управления большим количеством сотрудников.

Emotion AI обещает руководителям возможность обойти необходимость вдохновлять, мотивировать и обучать сотрудников так, чтобы их действия соответствовали целям компании, и вместо этого пытаться добиться этой согласованности через гиперслежку.

Но это несправедливо, говорят некоторые сторонники emotion AI. Многие организации используют такие системы, заявляя, что они помогают сотрудникам. Исследования показывают, что это может дать обратный эффект.

Финское исследование 2024 года показало, что технологии отслеживания эмоций на рабочем месте скорее подрывают благополучие, чем поддерживают его, и создают массу проблем. Во-первых, технология нередко просто не работает. В частности, она утверждает, что определяет психические состояния вроде «стресса» или «вовлеченности», но на деле такие метки не отражают реальные внутренние переживания.

Во-вторых, качество результата эмоционального ИИ часто зависит от расы. Исследование показало, что лица чернокожих людей чаще ошибочно помечались как «злые» или «презрительные», даже когда они выражали те же мимические реакции, что и белые участники. Это лишь один пример предвзятости, которая может возникать, если по ошибочной способности ИИ интерпретировать эмоции сотрудников начинают относиться к ним по-разному.

В-третьих, выяснилось, что заявления об «анонимной агрегации» на практике не работают в небольших командах. Данные могут непреднамеренно раскрывать личности, что ведет к нарушению конфиденциальности.

В-четвертых, emotion AI может фактически навязывать «эмоциональный труд», то есть необходимость собираться с силами и демонстрировать нужные эмоции как часть работы, и этот тренд распространяется на все больше профессий.

И наконец, emotion AI склонен к расширению рамок использования. Компании часто внедряют его для одной цели, а затем постепенно переходят к еще более жесткому наблюдению за сотрудниками.

У emotion AI может не быть будущего

Хотя emotion AI развивается в некоторых секторах экономики, его все сильнее сдерживают регуляторные меры. В прошлом году Европейский союз запретил emotion AI на рабочих местах и в образовательных учреждениях, оставив лишь узкие исключения по медицинским или безопасностным причинам. Многонациональные корпорации все чаще ориентируются на европейский стандарт.

В некоторых штатах, включая Калифорнию, Нью-Йорк и Иллинойс, уже были ограниченные правовые или регуляторные меры против этой технологии.

Некоторые компании добровольно отказались от emotion AI. Microsoft, например, в июне 2022 года объявила, что откажется от возможностей распознавания эмоций в Azure Face API — а также от определения пола, возраста, улыбки, растительности на лице, волос и макияжа — в рамках обновления своего стандарта Responsible AI.

Chief Responsible AI Officer компании Наташа Крэмптон объяснила изменения, сославшись на «отсутствие научного консенсуса по определению эмоций, сложности с тем, как выводы обобщаются в разных сценариях использования, регионах и демографических группах, а также повышенные опасения по поводу конфиденциальности, связанные с этой возможностью». Microsoft также беспокоило, что такая технология «может подвергать людей стереотипизации, дискриминации или несправедливому отказу в услугах».

Так что, хотя в отдельных случаях у emotion AI действительно есть полезные применения, научная база у него слабая, результаты часто вводят в заблуждение, сотрудники обычно его не любят и считают стрессовым, предвзятость, скорее всего, встроена в саму систему, нарушения конфиденциальности вероятны — и, возможно, эта технология вообще незаконна на международном уровне или даже не во всех штатах США.

Как ни заманчиво это выглядит, emotion AI слишком проблемен для внедрения.

Раскрытие информации об использовании ИИ: я не использую ИИ для написания текстов. Слова, которые вы видите здесь, мои. Для этой колонки я использовал несколько ИИ-инструментов через Kagi Assistant (раскрытие: мой сын работает в Kagi), а также Kagi Search и Google Search как часть проверки фактов. Я использовал текстовый редактор Lex, в котором есть ИИ-инструменты, а после написания колонки — инструменты проверки грамматики Lex, чтобы искать опечатки и ошибки и предлагать замену слов.

Материал — перевод статьи с английского.

Оригинал: The trouble with emotion-reading AI