AI-клоны: хорошее, плохое и совсем плохое
AI способен имитировать реального человека. Очевидно, что такая возможность существует, и этические вопросы ее использования часто тоже вполне ясны. Но все чаще новые применения приводят к морально неоднозначным результатам.
Хорошее
Например, CEO компании или политик могут сами решить создать клон с помощью AI-инструментов — чатбот плюс аватар, то есть цифровой двойник, — который будет общаться с людьми от их имени. В Кремниевой долине к этой идее относятся с большим энтузиазмом: Mark Zuckerberg из Meta и сооснователь LinkedIn Reid Hoffman либо уже создали, либо работают над цифровыми двойниками самих себя.
Среди политиков, у которых есть клоны, — Imran Khan из Пакистана, использовавший разрешенный голосовой клон для кампании из тюрьмы, а также мэр Нью-Йорка Eric Adams, который применял обзвоны с голосовым клоном, чтобы обращаться к избирателям на таких языках, как мандаринский китайский и идиш.
Такой сценарий, вероятно, этичен — при условии, что люди понимают, что общаются с цифровым клоном, а не с настоящим человеком.
Плохое
Обратная сторона этичного использования AI-сгенерированных клонов — случаи без согласия, а значит, неэтичные. И их уже немало. Например:
- В 2019 году первый широко задокументированный случай произошел, когда мошенники использовали AI, чтобы скопировать голос и немецкий акцент руководителя материнской компании и успешно убедили CEO британской энергетической компании перевести €220000 на мошеннический счет.
- В 2023 году жертвой вымогателей стала мать из Аризоны Jennifer DeStefano: они использовали AI-клон голоса ее 15-летней дочери, чтобы потребовать выкуп в размере $1 млн.
- А в 2024 году сотрудника финансового отдела в международной компании в Гонконге заставили перевести $25 млн после видеоконференции с deepfake-имитациями его CFO и нескольких других коллег.
К другим неэтичным, несогласованным сценариям AI-клонирования относятся deepfake-видео, где лицо знаменитости накладывают на порнографического актера. Во всех приведенных выше примерах этика очевидна. Это все очень неправильно.
Но по мере того как Китай становится лидером в появлении AI-клонов, этические границы становятся гораздо более размытыми.
И совсем плохое
Colleague Skill и его форки и клоны, которые обычно распространяются как open source, позволяют загружать истории чатов, электронные письма и внутренние документы, чтобы создавать функциональную персону, имитирующую профессиональную экспертизу и стиль общения конкретного коллеги. Технологический стек включает такие инструменты, как Claude, Kimi, ChatGPT, DeepSeek API, OCR (Tesseract) и модули анализа настроений.
Colleague Skill использует прошлые коммуникации человека, чтобы построить говорящую копию его личности. Если представить обычный AI как общего студента, который знает понемногу обо всем, то этот инструмент действует как специализированная маска, заставляющая AI вести себя как один конкретный человек.
Computerworld Smart Answers
http://www.computerworld.com/smart-answers «Что это?»
Исследовать связанные вопросы
Спросить
Иными словами, это создает чатбот с знаниями и речевыми паттернами реального человека.
Colleague Skill начинался как сатирический комментарий к увольнениям, вызванным AI. Но некоторые сотрудники начали использовать его всерьез, чтобы клонировать коллег. Называются разные причины: сохранить институциональные знания и получить мгновенный «резонатор», с которым можно «обсуждать» планы и идеи.
Схожая мотивация стоит и за использованием AI для клонирования начальников, чтобы сотрудники могли лучше предсказывать, как руководитель отреагирует на их работу.
По большей части, согласно сообщениям из Китая, создание boss-bot или клона коллеги происходит без согласия.
Неэтично ли без согласия создавать кастомный чатбот на основе коллеги или начальника?
А потом это стало личным (и странным)
Здесь используется тот же технический движок, но применяется он к гораздо более личной сфере жизни. Пользователи загружают фотографии, посты в соцсетях, логи переписок и другой контент. После этого AI-чатбот может имитировать тон бывшего партнера, его фирменные выражения и тонкие языковые нюансы — настолько, что «действительно звучит как он или она: говорит его или ее фразами, отвечает в его или ее стиле, помнит места, куда вы ходили вместе».
Это позволяет человеку симулировать разговоры с тем, кого больше нет в его жизни.
Если Colleague Skill находится в серой зоне, то Ex-Partner Skill — в более темной серой зоне.
(Примечание: многие оригинальные репозитории Ex-Partner Skill были удалены из публичного доступа в Китае или «очищены» после давления регуляторов. Но, по сообщениям, фреймворк по-прежнему циркулирует в частных кругах разработчиков, а похожие инструменты все чаще используют для «цифрового воскрешения».)
С этической точки зрения концепция выглядит как нечто, находящееся на широком спектре — где-то между терапией на одном конце и revenge porn на другом. (Сходство с revenge porn состоит в том, что «контент», который два человека согласованно создали для одной цели, позже один из них согласованно использует так, что это может показаться другому неприемлемым.)
Или, возможно, это ближе к феномену deathbot, когда AI-сгенерированная симуляция предлагает фальшивую версию умершего человека. (В обоих случаях пользователь взаимодействует с цифровым двойником того, кого больше нет в его жизни.) На самом деле некоторые люди в Китае используют Ex-Partner Skill как deathbot для умершего близкого человека.
Отсутствие согласия ощущается как этическая ошибка. Но мы ведь не считаем неэтичным думать о бывших партнерах, вспоминать их, воображать разговоры с ними или вести дневник о них — или о покойных родственниках.
Сторонники идеи Ex-Partner Skill говорят, что разговоры с цифровыми бывшими терапевтичны. Они указывают, что это приватно, а значит, не является преследованием, сталкингом или вторжением в частную жизнь. Напротив, утверждают они, это помогает личной рефлексии и эмоциональному восстановлению.
Что касается умерших людей, то, согласно сообщениям китайских СМИ, некоторые пользователи говорят, что инструмент дает им ощущение завершенности и позволяет сказать то, что они хотели бы сказать настоящему человеку. Но можно ли назвать это завершенностью, если один человек по-прежнему навязчиво пытается взаимодействовать — или делает вид, что взаимодействует — с другим?
Общаться — это нормально. Но это не общение, когда человек сам по себе говорит в пустоту и отправляет сообщения тому, кто никогда их не получит.
Появление несанкционированного клонирования коллег, начальников и бывших партнеров — это новый вызов нашему чувству правильного и неправильного и еще один способ, которым AI заставляет нас повзрослеть и понять, как на это реагировать.
Материал — перевод статьи с английского.