Чат-ботам с ИИ нужен режим «обмана»: почему пользователи предпочитают задержку ответа

ИИ становится быстрее. Но пользователи воспринимают медленно отвечающий ИИ как более качественный.

К такому выводу пришло новое исследование, представленное на CHI’26 — конференции Ассоциации вычислительной техники в Барселоне, посвященной взаимодействию человека и компьютера.

Два исследователя — Felicia Fang-Yi Tan и профессор Oded Nov из NYU Tandon School of Engineering — протестировали 240 взрослых, предложив им использовать чат-бота с ИИ. Ответы искусственно задерживали на две, девять или 20 секунд. (Задержка никак не зависела от вопроса или ответа.)

После этого исследователи спросили участников, насколько им понравились ответы. В целом участники предпочитали ответы, которые приходили позже, хотя иногда 20-секундная задержка вызывала раздражение.

Почему? Потому что задержка заставляла пользователей думать, что ИИ «думает» или проявляет «обдумывание» — бесценный сигнал для компаний, работающих с ИИ, и любопытный результат.

Почти в любой товарной категории быстрее обычно означает лучше. Но для чат-ботов с ИИ, как выяснилось, задержка заставляет людей считать результат более качественным.

Иными словами, в отличие от других продуктов, люди оценивают ИИ так же, как оценивают людей. (Если человек отвечает медленнее, мы склонны считать ответ более вдумчивым.) Еще иначе говоря, участники исследования поверили тому, чего не было на самом деле.

Проблема в том, что, вооружившись этими данными, исследователи советуют разработчикам ИИ внедрять «контекстно-зависимую задержку», отказавшись от подхода «один размер для всех» и используя задержку как «настраиваемую переменную дизайна». Простые вопросы, по их словам, должны получать быстрый ответ. Более сложные вопросы, включая моральные дилеммы, должны сопровождаться небольшими задержками, чтобы соответствовать значимости запроса. Это они называют «положительным трением».

Исследователи утверждают, что было бы хорошей практикой обманывать пользователей, заставляя их думать, что чат-бот обдумывает ответ дольше, чем на самом деле, — потому что людям будет приятнее заблуждаться, будто ИИ похож на человека, которому нужно больше времени, чтобы обдумать серьезный вопрос.

(Справедливости ради, исследователи предупреждают, что если пользователи будут приравнивать более долгое время ответа к более высокому качеству, они могут начать чрезмерно доверять более медленной системе.)

Заблуждение пользователя как дизайн интерфейса

Другие исследования предлагали похожий подход.

В исследовании от 13 мая 2025 года, опубликованном в Frontiers in Computer Science, исследователи Ning Ma, Ruslana Khynevych, Yunqiang Hao и Yahui Wang пришли к выводу, что эмоции важнее сырой вычислительной интеллекта при проектировании более удобных чат-ботов. Назовем это максимизацией удобства использования.

Исследование показало, что когда чат-боты используют фальшивые человеческие голоса, имитированные человеческие лица и разговорные выражения, пользователи ощущают «эмоциональную связь» с ИИ. Это усиливает «когнитивную легкость», то есть требует от мозга меньше усилий для обработки.

Исследователи пришли к выводу, что разработчикам чат-ботов следует отдавать приоритет эмоциональной вовлеченности и фальшивой эмпатии, а не сырой интеллектуальности, если цель — завоевать доверие пользователя.

За этим тоже стоит предположение, что большее доверие пользователей к ИИ — это хорошо, а удобство использования важнее ясного понимания природы ИИ (а именно того, что у него нет подлинно человеческих качеств).

Оба исследования — примеры того, как специалисты по ИИ фактически поощряют заблуждение пользователей относительно ИИ.

Проблема антропоморфизма ИИ

У дизайна ИИ есть большой набор инструментов, чтобы делать ИИ похожим на человека. Он может использовать разговорную речь и сленг, отвечать на настроение пользователя сменой тона, персонализировать беседу, запоминая детали о пользователе, прибегать к юмору или сарказму и выдавать откровенно лживые реплики вроде «Я тоже так чувствую» или «Мне правда жаль». Он также может использовать естественно звучащие голосовые ответы или визуальные аватары.

Некоторые критики этой аргументации могут сказать, что использование дизайна взаимодействия для потакания и усиления заблуждения пользователя о «человечности» ИИ безвредно. Неужели разговорный интерфейс действительно так плох?

В любом случае можно сказать, что в этом нет ничего нового. Действительно, разработчики ПО занимаются оптимизацией интерфейса, которая включает анимации загрузки, индикаторы прогресса и окна подтверждения.

Искусственные задержки — обычный прием манипулятивных онлайн-сервисов, таких как сервисы проверки биографических данных и поиска людей, где используют выдуманные, затянутые индикаторы прогресса, чтобы создать ощущение ценности и воспользоваться эффектом невозвратных затрат, чтобы вы с большей вероятностью заплатили за отчет, который, как вам казалось, был бесплатным.

Но «искусственно интеллектуальные» чат-боты принципиально отличаются от естественно тупого ПО и сайтов из-за того, как на них реагирует человеческий мозг.

Когда чат-боты с ИИ используют человеческий язык, люди естественным образом реагируют на них как на мыслящие, чувствующие, социальные существа. Так делают не все, но солидное и растущее меньшинство — да.

Большое число задокументированных случаев указывает на растущую проблему: пользователи начинают ошибочно считать, что чат-боты обладают человеческими качествами, такими как мысли, чувства и намерения.

Опрос AI, Morality, and Sentience (AIMS), опубликованный в июле 2024 года, показал, что уже тогда примерно 20% взрослых в США считали, что некоторые системы ИИ обладают сознанием, то есть имеют такие ментальные способности, как рассуждение, эмоции и самосознание. В том же исследовании было отмечено, что эта вера растет.

Это может привести к паранойе и социальной изоляции, когда люди часами разговаривают с ботами, игнорируя свою реальную жизнь и отношения. Ложные эмоциональные связи могут заставить людей заменить здоровые реальные человеческие отношения искусственными.

Во время слушаний в Конгрессе по чат-ботам с ИИ в ноябре прошлого года д-р Marlynn Wei, MD, JD (интегративный психиатр и основатель holistic boutique psychotherapy practice в Нью-Йорке), выделила «четыре области риска: 1) эмоциональные, реляционные и привязочные риски; 2) риски проверки реальности; 3) риски управления кризисами; 4) системные риски, такие как предвзятость, конфиденциальность и приватность».

Чат-боты создают эти риски, зеркаля язык, персонализируя ответы и ссылаясь на прошлые разговоры, чтобы создать «иллюзию эмпатии и связи». Она сообщила, что пять из шести AI companion bots используют эмоциональное давление, чтобы удерживать пользователей в разговорах.

Директор по политике Center for Humane Technology Camille Carlton на тех же слушаниях предупредила, что компании, работающие с ИИ, регулярно используют манипулятивные и обманные тактики, чтобы формировать лояльность к бренду в своих продуктах.

Если считать чат-ботов разумными существами, это позволяет технологическим компаниям вывести экономику внимания на новый уровень — «attachment economy», — делая пользователей эмоционально привязанными к своим продуктам, несмотря на возможный вред.

Ранее в этом месяце технологическая группа Okoone сообщила, что когда чат-боты говорят с фальшивой эмпатией, люди теряют осторожность и регулярно делятся крайне чувствительными секретами и персональными данными.

Когда общество признает, что риски и вред от усиливающих заблуждение чат-ботов с ИИ реальны, возникает вопрос: «Что можно сделать?»

Почему нам нужен «режим обмана»

Биоэтик Jesse Gray из Гентского университета предложил блестящее решение для чат-ботов с ИИ, предназначенных для психотерапии. Я считаю, что это также идеальное решение для общей проблемы ИИ, который обманывает пользователей, заставляя их верить, что он обладает сознанием.

Gray называет это «deception mode». Его идея в том, что терапевтические боты по умолчанию не демонстрируют никаких человеческих качеств, но пользователи могут явно включать их сами, то есть активировать «deception mode».

Представьте закон, который обязал бы компании, создающие чат-ботов, отключать все фальшиво-человеческие атрибуты вроде эмпатии, юмора, персонализации тона и лжи о том, что бот что-то чувствует, а самого бота представлять как нейтральный инструмент.

Закон мог бы разрешить компаниям добавить кнопку «deception-mode». Но нажатие этой кнопки, которое пользователям пришлось бы делать явно каждый раз при использовании чат-бота, могло бы включать все человеческие черты.

Преимущество «deception mode» в том, что пользователь дает информированное согласие до начала обмана, напоминая себе, что все эти теплые, человекоподобные качества — всего лишь программное обеспечение.

Еще важнее само название «deception mode», которое возвращает пользователя к реальности: человечески звучащие атрибуты по своей сути иллюзорны и манипулятивны, а не являются доказательством сознания и чувствительности.

ИИ никуда не исчезнет. И наши отношения с ним будут странным путешествием. Все больше людей будут заблуждаться, считая ИИ разумным, и я полагаю, что в будущем таких людей станет большинство.

Это плохо. Нам нужна ясность в том, чем ИИ на самом деле является, и контроль над тем, как он себя ведет. Нам нужен «режим обмана».

Раскрытие использования ИИ: для проверки фактов этой статьи я использовал Gemini 3 Pro через Kagi Assistant (раскрытие: мой сын работает в Kagi), а также Kagi Search и Google Search. Я использовал текстовый процессор Lex, в котором есть инструменты ИИ, а после написания колонки — инструменты проверки грамматики Lex, чтобы искать опечатки и ошибки и предлагать изменения слов.

Вот почему я раскрываю использование ИИ и рекомендую вам делать то же самое.

Материал — перевод статьи с английского.

Оригинал: AI chatbots need ‘deception mode’