Иск Илона Маска выводит историю безопасности OpenAI на первый план
Image Credits:Daniel Heuer / Bloomberg / Getty Images
Иск Илона Маска выводит историю безопасности OpenAI на первый план
12:21 PM PDT · May 7, 2026
Юридическая попытка Илона Маска развалить OpenAI может зависеть от того, усиливает или ослабляет ее дочерняя коммерческая структура изначальную миссию frontier-лаборатории: обеспечить, чтобы человечество выиграло от artificial general intelligence.
В четверг федеральный суд в Окленде, штат Калифорния, заслушал показания бывшей сотрудницы и члена совета, которая заявила, что попытки компании вывести продукты ИИ на рынок подорвали ее приверженность безопасности ИИ.
Рози Кэмпбелл присоединилась к команде AGI readiness team в 2021 году и ушла из OpenAI в 2024-м после расформирования ее команды. В тот же период была закрыта и другая ориентированная на безопасность команда — Super Alignment team.
«Когда я пришла, организация была очень ориентирована на исследования, и было обычным делом говорить об AGI и вопросах безопасности», — сказала она в показаниях. «Со временем она все больше становилась организацией, ориентированной на продукты».
В ходе перекрестного допроса Кэмпбелл признала, что для цели лаборатории по созданию AGI, вероятно, необходимы значительные инвестиции, но заявила, что создание сверхинтеллектуальной компьютерной модели без надлежащих мер безопасности не соответствовало бы миссии организации, к которой она изначально присоединилась.
Кэмпбелл указала на случай, когда Microsoft развернула в Индии версию модели GPT-4 компании через поисковик Bing еще до того, как модель была оценена Deployment Safety Board (DSB) компании. Сама модель, по ее словам, не представляла большого риска, но компании нужно было «создавать прочные прецеденты по мере того, как технология становится мощнее. Нам нужны хорошие процессы безопасности, и мы должны быть уверены, что они соблюдаются надежно».
Юристы OpenAI также добились от Кэмпбелл признания, что, по ее «спекулятивному мнению», подход OpenAI к безопасности лучше, чем у xAI — AI-компании, которую основал Маск и которая была приобретена SpaceX ранее в этом году.
Покупка одного билета дает второй со скидкой 50% только на этой неделе
Ваш следующий раунд. Ваш следующий найм. Ваша следующая возможность для прорыва. Ищите их на TechCrunch Disrupt 2026, где 10 000+ основателей, инвесторов и лидеров технологий соберутся на три дня, чтобы обсудить 250+ практических сессий, полезные знакомства и инновации, задающие рынок. Зарегистрируйтесь до 8 мая, чтобы взять +1 за половину цены.
Покупка одного билета дает второй со скидкой 50% только на этой неделе
Ваш следующий раунд. Ваш следующий найм. Ваша следующая возможность для прорыва. Ищите их на TechCrunch Disrupt 2026, где 10 000+ основателей, инвесторов и лидеров технологий соберутся на три дня, чтобы обсудить 250+ практических сессий, полезные знакомства и инновации, задающие рынок. Зарегистрируйтесь до 8 мая, чтобы взять +1 за половину цены.
Сан-Франциско, Калифорния | 13–15 октября 2026 года
Однако развертывание GPT-4 в Индии было одним из тревожных сигналов, из-за которых некоммерческий совет OpenAI ненадолго уволил генерального директора Сэма Альтмана в 2023 году. Этот эпизод произошел после того, как сотрудники, включая тогдашнего главного научного сотрудника Илью Суцкевера и тогдашнюю CTO Миру Мурати, пожаловались на склонность Альтмана избегать конфликтов в управлении. Таша Макколи, член совета на тот момент, дала показания о том, что Альтман недостаточно откровенно делился информацией с советом, чтобы необычная структура компании могла работать.
Макколи также рассказала о широко освещавшейся модели, в которой Альтман вводил совет в заблуждение. В частности, Альтман солгал другому члену совета о намерении Макколи сместить Хелен Тонер — еще одного члена совета, опубликовавшего white paper с косвенной критикой политики OpenAI в области безопасности. Альтман также не сообщил совету о решении публично запустить ChatGPT, и членов совета беспокоило отсутствие раскрытия возможных конфликтов интересов.
«Мы — совет некоммерческой организации, и наш мандат заключался в том, чтобы надзирать за коммерческой структурой под нами, — сказала Макколи суду. — Наш основной механизм для этого оказался поставлен под сомнение. У нас совсем не было высокого уровня доверия к тому, что передаваемая нам информация позволяла принимать решения на основе полного понимания».
Однако решение убрать Альтмана совпало по времени с тендерным предложением сотрудникам компании. Макколи сказала, что когда сотрудники OpenAI начали поддерживать Альтмана, а Microsoft работала над восстановлением статус-кво, совет в итоге отступил, и члены, выступавшие против Альтмана, ушли в отставку.
Очевидный провал некоммерческого совета в попытке влиять на коммерческую организацию напрямую относится к аргументу Маска о том, что превращение OpenAI из исследовательской организации в одну из крупнейших частных компаний мира нарушило неявное соглашение основателей организации.
Дэвид Шайзер, бывший декан юридической школы Columbia Law School, которому команда Маска платит за участие в деле в качестве эксперта, повторил опасения Макколи.
«OpenAI подчеркивает, что важная часть ее миссии — это безопасность и что она будет ставить безопасность выше прибыли, — сказал Шайзер. — Часть этого — серьезно относиться к правилам безопасности: если что-то должно пройти проверку безопасности, это должно произойти. Важно именно процессуальное измерение».
Поскольку ИИ уже глубоко встроен в коммерческие компании, вопрос выходит далеко за рамки одной лаборатории. Макколи сказала, что сбои во внутреннем управлении OpenAI должны стать поводом для более жесткого государственного регулирования передового ИИ — «[если] все сводится к одному CEO, который принимает эти решения, а на кону стоит общественное благо, это очень неудачная модель».
Материал — перевод статьи с английского.
Оригинал: Elon Musk’s lawsuit is putting OpenAI’s safety record under the microscope