Энциклика папы Льва XIV о ИИ на самом деле посвящена концентрации власти и демократии
Папа римский Лев XIV в понедельник опубликовал свою первую энциклику. Документ под названием _Magnifica Humanitas_ посвящен «защите человеческой личности в эпоху искусственного интеллекта». Но хотя ИИ выступает в роли отправной точки, Лев XIV говорит о более старых и широких проблемах: неравенстве, войне, эрозии демократии и концентрации власти в руках тех, кому, по сути, безразлично, останется ли человечество по-настоящему «великолепным».
На протяжении 200-страничного документа, который понтифик представил вместе с Крисом Олахом, сооснователем ИИ-компании Anthropic, Лев XIV утверждает, что технологии, созданные и управляемые узкой элитой, по определению не могут служить общему благу.
«Когда такая власть сосредоточена в руках немногих, она, как правило, становится непрозрачной и уходит от общественного контроля, повышая риск искаженных форм развития, которые порождают новую зависимость, исключение, манипуляции и неравенство», — пишет он.
«Более того, как и в случае любого крупного технологического сдвига, ИИ, как правило, усиливает власть тех, кто уже обладает экономическими ресурсами, экспертизой и доступом к данным», — продолжает энциклика, указывая на риск того, что элиты используют свою власть, чтобы «формировать информационные и потребительские модели, влиять на демократические процессы и направлять экономическую динамику в собственных интересах».
Энциклика появилась через несколько дней после того, как президент Дональд Трамп отложил подписание указа по ИИ, который дал бы правительству надзор за новыми моделями до их выпуска, как сообщалось, по рекомендации венчурного инвестора и бывшего координатора Белого дома по ИИ Дэвида Сакса.
Папа Лев призвал к тому, чтобы ИИ регулировался «четкими критериями и эффективным надзором», основанными на участии сообществ, которых это затронет. Более конкретно он призвал положить конец гонке ИИ — стремлению создавать «все более мощные алгоритмы и все более крупные наборы данных», которые компании и государства считают способом «обеспечить геополитическое или коммерческое доминирование».
«Разоружить — значит дискредитировать предположение, что техническая мощь автоматически дает право управлять», — написал он.
И снова эти процессы возникли задолго до ИИ. Энциклика Rerum Novarum папы Льва XIII 1891 года касалась той же концентрации власти во время промышленной революции, но не обязательно заглядывать так далеко в прошлое. Достаточно вспомнить покупку Илон Маском Twitter и использование платформы для помощи в избрании Трампа или сотни миллионов долларов, которые вливаются от технологических элит в super PACs, чтобы блокировать регулирование ИИ, — именно такие модели, по-видимому, вдохновили работу Льва XIV.
Папа приходит к выводу, к которому многие уже пришли: сюрреалистическая мощь и возможности современного ИИ резко повышают ставки.
Профессор юридической школы Notre Dame Паоло Кароцца, член Папской академии общественных наук и председатель Meta Oversight Board, сказал TechCrunch, что дезинформация и deepfakes на основе ИИ «разъели нашу способность различать, что истинно, а что нет, и это действительно имеет последствия для демократической политики». Практика технологической индустрии по «сбору и манипулированию» человеческими данными, добавил он, создает «фундаментальные вызовы когнитивной свободе».
При покупке по ссылкам в наших материалах мы можем получить небольшую комиссию. Это не влияет на нашу редакционную независимость.
Ребекка Беллан — старший корреспондент TechCrunch, где она пишет о бизнесе, политике и новых тенденциях, формирующих искусственный интеллект. Ее материалы также публиковались в Forbes, Bloomberg, The Atlantic, The Daily Beast и других изданиях.
Материал — перевод статьи с английского.