Единственный эксперт по ИИ на процессе OpenAI: Стюарт Рассел предупреждает об AGI-гонке вооружений
Image Credits:Sameer Al-DOUMY / AFP / Getty Images
Единственный эксперт по ИИ на процессе OpenAI: Стюарт Рассел предупреждает об AGI-гонке вооружений
9:57 AM PDT · May 4, 2026
Когда пора всерьез воспринимать алармистов по ИИ?
Это важный подтекст попытки Elon Musk закрыть коммерческий AI-бизнес OpenAI. Его адвокаты утверждают, что организация была создана как благотворительная структура, сосредоточенная на безопасности ИИ, но сошла с пути в погоне за наживой. В подтверждение они ссылаются на старые письма и заявления основателей организации о необходимости общественно полезного противовеса Google DeepMind.
Сегодня они вызвали единственного эксперта, который напрямую говорил именно о технологии ИИ: Стюарта Рассела, профессора компьютерных наук University of California, Berkeley, десятилетиями изучающего ИИ. Его задача заключалась в том, чтобы дать базовый контекст по ИИ и показать, что эта технология достаточно опасна, чтобы о ней стоило беспокоиться.
Рассел в марте 2023 года подписал открытое письмо с призывом к шестимесячной паузе в исследованиях ИИ. Как показатель здешних противоречий, Musk тоже подписал это письмо — уже в момент, когда запускал xAI, собственную коммерческую AI-лабораторию.
Рассел сообщил присяжным и судье Ивонн Гонсалес Роджерс, что развитие ИИ связано с целым рядом рисков — от угроз кибербезопасности до проблем с несоответствием целей и winner-take-all природы разработки Artificial General Intelligence (AGI). В итоге, по его словам, между стремлением к AGI и безопасностью существует напряжение.
Более широкие опасения Рассела по поводу экзистенциальных угроз неконтролируемого ИИ не прозвучали в открытом суде: возражения адвокатов OpenAI привели к тому, что судья ограничила его показания. Но Рассел давно критикует гонку вооружений, которую создали frontier labs по всему миру, соревнующиеся за то, чтобы первыми добраться до AGI, и призывает правительства жестче регулировать эту сферу.
Адвокаты OpenAI в ходе перекрестного допроса добивались признания того, что Рассел не оценивает напрямую корпоративную структуру организации и ее конкретные политики безопасности.
Познакомьтесь со своим следующим инвестором или портфельным стартапом на Disrupt
Ваш следующий раунд. Ваша следующая найм. Ваш следующий прорывной шанс. Найдите их на TechCrunch Disrupt 2026, где 10 000+ основателей, инвесторов и tech-лидеров соберутся на три дня, 250+ практических сессий, сильные знакомства и инновации, задающие рынок. Зарегистрируйтесь сейчас, чтобы сэкономить до $410.
Познакомьтесь со своим следующим инвестором или портфельным стартапом на Disrupt
Ваш следующий раунд. Ваша следующая найм. Ваш следующий прорывной шанс. Найдите их на TechCrunch Disrupt 2026, где 10 000+ основателей, инвесторов и tech-лидеров соберутся на три дня, 250+ практических сессий, сильные знакомства и инновации, задающие рынок. Зарегистрируйтесь сейчас, чтобы сэкономить до $410.
San Francisco, CA|October 13-15, 2026
Но и этот репортер, и судья, и присяжные будут оценивать, насколько важна связь между корпоративной жадностью и опасениями по поводу безопасности ИИ. Практически каждый из основателей OpenAI настойчиво предупреждал о рисках ИИ, одновременно подчеркивая его преимущества, стремясь как можно быстрее строить ИИ — и вынашивая планы по созданию коммерческих предприятий, ориентированных на ИИ, которые они сами бы контролировали.
Со стороны здесь видна и еще одна очевидная проблема: внутри OpenAI после основания все яснее становилось, что организации просто нужно больше расходов на compute, если она хочет добиться успеха. Эти деньги могли прийти только от for-profit инвесторов. Страх основателей перед AGI в руках одной организации подтолкнул их к поиску капитала, который в итоге расколол команду, создал ту самую гонку вооружений, которую мы видим сегодня, и привел к этому иску.
Та же динамика уже разворачивается и на национальном уровне: законопроект сенатора Bernie Sanders о введении моратория на строительство data centers ссылается на страхи перед ИИ, высказанные Musk, Sam Altman, Geoffrey Hinton и другими. Ходен Омар, работающий в отраслевой организации Center for Data Innovation, возразил против того, что Sanders цитирует их страхи без упоминания их надежд, и сказал TechCrunch: «Непонятно, почему общество должно отвергать все, что говорят tech billionaires, кроме тех случаев, когда их слова можно использовать, чтобы закрыть пробелы в шатком аргументе».
Теперь обе стороны дела просят суд сделать именно это: отнестись к части аргументов Altman и Musk всерьез, но не учитывать те части, которые менее полезны для их правовой позиции.
Исправление: статья была обновлена, чтобы исправить имя Stuart Russell, профессора компьютерных наук University of California, Berkeley.
Познакомьтесь со своим следующим инвестором или портфельным стартапом на Disrupt
Ваш следующий раунд. Ваша следующая найм. Ваш следующий прорывной шанс. Найдите их на TechCrunch Disrupt 2026, где 10 000+ основателей, инвесторов и tech-лидеров соберутся на три дня, 250+ практических сессий, сильные знакомства и инновации, задающие рынок. Зарегистрируйтесь сейчас, чтобы сэкономить до $410.
San Francisco, CA|October 13-15, 2026
StrictlyVC Athens is up next. Hear unfiltered insights straight from Europe’s tech leaders and connect with the people shaping what’s ahead. Lock in your spot before it’s gone.
*
Этот крошечный магнитный e-reader может отучить вас от doomscrolling
*
Uber хочет превратить миллионы своих водителей в sensor grid для компаний беспилотного вождения
*
Выпускник Y Combinator Skio продан за $105 млн наличными, при этом привлек только $8 млн, говорит основатель
*
Хакеры активно эксплуатируют уязвимость в cPanel, которой пользуются миллионы сайтов
*
Elon Musk заявил в суде, что xAI обучала Grok на моделях OpenAI
*
Amazon и Meta присоединились к борьбе против доминирования Google Pay и PhonePe в Индии
*
На трибуне Elon Musk не может уйти от собственных твитов
Материал — перевод статьи с английского.
Оригинал: Elon Musk’s only AI expert witness at the OpenAI trial fears an AGI arms race