Управление, регулирование и политика
Почему компании вроде Apple создают ИИ-агентов с ограничениями
10 апреля 2026
Поделиться этой статьей:
Теги:
ИИИИ-агентыappleчипуправление
Категории:
Бизнес-стратегия ИИУправление, регулирование и политика
ИИ-ассистенты следующего поколения разрабатываются в экосистеме Apple и такими производителями чипов, как Qualcomm, однако первые сообщения указывают на то, что они создаются с ограничениями.
Tom’s Guide описал ранние версии этих ассистентов как способные перемещаться по приложениям, выполнять бронирования и управлять задачами в сервисах. Например, один агентный системный прототип в закрытой бете выполнил такие задачи, как бронирование услуг или публикация контента в приложениях. В одном тесте он прошёл через рабочий процесс приложения и дошёл до экрана оплаты, прежде чем запросить подтверждение у пользователя.
ИИ-агенты создаются с контрольными точками для одобрения. Действия, связанные с конфиденциальностью, особенно те, что относятся к платежам или изменениям в учетной записи, требуют подтверждения пользователя перед выполнением. Модель «человек в контуре» позволяет системе подготовить действие, но оставляет решение за пользователем. Исследования, связанные с работой Apple в области ИИ, изучали способы обеспечить, чтобы системы делали паузу перед совершением действий, которые пользователи явно не запрашивали.
Банковские приложения уже требуют подтверждения для переводов. Теперь тот же подход применяется к действиям, выполняемым ИИ, в нескольких сервисах.
Ограничения и контроль
Слой управления создаётся за счёт ограничения того, к чему ИИ может получить доступ. Вместо предоставления системе полного доступа к приложениям и данным компании вводят ограничения, например, на то, с какими приложениями ИИ может взаимодействовать и когда можно запускать действия.
На практике это означает, что ИИ может подготовить покупку или бронирование, но не завершить их без одобрения. Это также означает, что система не может свободно перемещаться по всем сервисам, если ей не было предоставлено разрешение.
По данным Tom’s Guide, это делается ради конфиденциальности. Если данные остаются на устройстве, отпадает необходимость отправлять конфиденциальную информацию на внешние серверы.
В таких областях, как платежи, ожидается, что системы ИИ будут работать с партнёрами, у которых уже действуют строгие правила. В одном из упомянутых примеров услуги платёжных провайдеров интегрируются для обеспечения безопасной аутентификации до завершения транзакций, хотя такие меры защиты всё ещё находятся в разработке. Существующие системы выступают как дополнительный уровень контроля. Они могут устанавливать лимиты на транзакции или требовать дополнительной проверки.
Большая часть обсуждения вокруг управления ИИ сосредоточена на корпоративном использовании. Это включает такие области, как кибербезопасность и масштабная автоматизация. Потребительская сторона создаёт другую проблему, и компаниям нужно разрабатывать механизмы контроля, которые подходят для обычных пользователей. Это означает понятные шаги подтверждения и встроенные меры защиты конфиденциальности.
Автономность с границами
По мере того как ИИ получает возможность выполнять действия, риски возрастают, поскольку ошибки могут привести к финансовым потерям или утечке данных.
Размещая элементы контроля в нескольких точках, включая подтверждение и инфраструктуру, компании пытаются управлять этими рисками.
Такой подход может повлиять на развитие агентного ИИ в ближайшей перспективе. Вместо стремления к полной независимости компании, похоже, сосредоточены на контролируемых средах, где рисками можно управлять.
(Фото Джунсона Ли)
См. также: Проблемы управления агентным ИИ в рамках закона ЕС об ИИ в 2026 году
Хотите узнать больше об ИИ и больших данных от лидеров отрасли? Посетите AI & Big Data Expo, которая проходит в Амстердаме, Калифорнии и Лондоне. Это масштабное мероприятие является частью TechEx и проводится совместно с другими ведущими технологическими событиями. Нажмите здесь для получения дополнительной информации.
AI News работает на базе TechForge Media. Ознакомьтесь с другими предстоящими корпоративными технологическими мероприятиями и вебинарами здесь.
Как технологический журналист, Зул освещает такие темы, как облачные вычисления, кибербезопасность и прорывные технологии в корпоративной отрасли. Помимо опыта в сетевых технологиях, он обладает навыками модерации вебинаров и презентации контента в видеоформате.
Похожие материалы
IBM: как надёжное управление ИИ защищает корпоративную маржу
10 апреля 2026
У Meta есть конкурентоспособная модель ИИ, но она теряет свой open-source-образ
10 апреля 2026
Проблемы управления агентным ИИ в рамках закона ЕС об ИИ в 2026 году
9 апреля 2026
Anthropic сохраняет новую модель ИИ в секрете после того, как обнаружила тысячи внешних уязвимостей
9 апреля 2026
Присоединяйтесь к нашему сообществу
Подпишитесь сейчас, чтобы получать весь наш премиум-контент и последние технологические новости прямо на вашу почту
Популярное
Бизнес-стратегия ИИ, Искусственный интеллект, Особенности, ИИ в финансах, Мир труда
JPMorgan начинает отслеживать, как сотрудники используют ИИ на работе
5854 view(s)
ИИ в действии, Тенденции рынка ИИ, Искусственный интеллект, Отношения человека и ИИ, Внутри ИИ, ИИ в производстве и инженерии, Физический ИИ
Google официально делает ставку на ИИ для промышленной робототехники — и на этот раз это серьёзно
5029 view(s)
ИИ и мы, Бизнес-стратегия ИИ, ИИ в действии, Особенности, ИИ в финансах, Внутри ИИ, Мнение, Мир труда
Как ИИ улучшает управление корпоративной казначейской службой
4840 view(s)
ИИ и мы, Бизнес-стратегия ИИ, ИИ в действии, Тенденции рынка ИИ, Инженерия данных и MLOps, Главные новости, Особенности, ИИ в финансах, Управление, регулирование и политика, Как это работает, Отношения человека и ИИ, Инфраструктура и оборудование, Внутри ИИ, ИИ в производстве и инженерии, ИИ в розничной торговле и логистике, Мир труда
KPMG: внутри руководства по ИИ-агентам, обеспечивающего рост корпоративной маржи
4524 view(s) Смотреть всё 
Последние
Управление, регулирование и политика
9 апреля 2026
Проблемы управления агентным ИИ в рамках закона ЕС об ИИ в 2026 году 
9 апреля 2026
Anthropic сохраняет новую модель ИИ в секрете после того, как обнаружила тысячи внешних уязвимостей 
8 апреля 2026
Успех ИИ в разработке ПО и потребность в централизованном управлении 
Управление согласием на использование файлов cookie Мы используем такие технологии, как файлы cookie, для хранения и/или доступа к информации об устройстве. Мы делаем это, чтобы улучшить работу сайта и показывать персонализированную рекламу. Согласие на использование этих технологий позволит нам обрабатывать данные, такие как поведение при просмотре или уникальные идентификаторы на этом сайте. Отказ от согласия или его отзыв могут негативно повлиять на работу некоторых функций и возможностей. Функциональные Функциональные Всегда активны Техническое хранение или доступ строго необходимы для законной цели обеспечения использования конкретной услуги, явно запрошенной подписчиком или пользователем, либо исключительно для осуществления передачи сообщения по электронной коммуникационной сети. Предпочтения Предпочтения Техническое хранение или доступ необходимы для законной цели хранения предпочтений, не запрашиваемых подписчиком или пользователем. Статистика Статистика Техническое хранение или доступ используется исключительно в статистических целях. Техническое хранение или доступ, используемые исключительно в анонимных статистических целях. Без повестки в суд, добровольного согласия вашего интернет-провайдера или дополнительных записей от третьей стороны, информация, хранящаяся или получаемая только для этой цели, обычно не может использоваться для вашей идентификации. Маркетинг Маркетинг Техническое хранение или доступ необходимы для создания профилей пользователей, чтобы отправлять рекламу или отслеживать пользователя на одном или нескольких веб-сайтах в аналогичных маркетинговых целях.
- Управлять настройками
- Управлять сервисами
- Управлять {vendor_count} поставщиками
- Подробнее об этих целях
Подписаться
Весь наш премиум-контент и последние технологические новости — прямо в ваш почтовый ящик
Материал — перевод статьи с английского.
Оригинал: Why companies like Apple are building AI agents with limits