Многие компании выбирают более медленный и управляемый подход к автономным системам по мере роста внедрения AI. Вместо развертывания решений, которые действуют самостоятельно, они делают ставку на инструменты, помогающие людям принимать решения и сохранять контроль над результатами. Особенно заметен этот подход в секторах, где ошибки несут реальные финансовые или юридические риски.
Один из примеров — S&P Global Market Intelligence, которая встраивает AI-инструменты в платформу Capital IQ Pro. Систему используют аналитики для изучения отчетности компаний, earnings calls и рыночных данных. Ее AI-функции спроектированы так, чтобы оставаться привязанными к исходным материалам.
По словам S&P Global Market Intelligence, ее AI-инструменты извлекают инсайты из структурированных и неструктурированных данных, включая транскрипты и отчеты, работая при этом с верифицированными исходными данными.
Внедрение AI опережает автономность
Текущую волну business AI часто описывают как шаг к autonomous agents. В перспективе такие системы смогут планировать задачи и действовать без прямого участия человека. Но большинство компаний пока к этому не пришли. Внедрение AI уже широко распространено: по исследованию McKinsey & Company, большинство организаций используют AI хотя бы в одной части бизнеса. При этом многие компании еще не масштабировали AI на уровне всего предприятия, что показывает разрыв между первоначальным использованием и более широким внедрением.
Пока что AI помогает с такими задачами, как краткое изложение документов или ответы на запросы, но не действует самостоятельно.
Инструменты S&P Global Market Intelligence позволяют пользователям запрашивать большие массивы данных через чат-интерфейс, но результаты привязаны к верифицированному финансовому контенту. Во многих случаях можно обратиться к исходным документам, что снижает риск ошибок или неподтвержденных выводов.
В своих исследованиях компания описывает AI governance как процесс, в котором системы проектируются и отслеживаются с акцентом на fairness и accountability.
AI в высокорисковых секторах
В финансах даже небольшие ошибки могут иметь большие последствия. Это определяет то, как AI создается и используется. Такие инструменты, как Capital IQ Pro, должны поддерживать аналитиков, а не заменять их. Система может помочь выявить инсайты или подсветить тренды, но окончательные решения по-прежнему принимают люди.
Разрыв между внедрением и ценностью становится все заметнее. По данным McKinsey & Company, многие организации фиксируют несоответствие между развертыванием AI и измеримыми бизнес-результатами.
Хотя autonomous systems могут справляться с отдельными задачами, компаниям часто нужна четкая accountability. Когда решения влияют на инвестиции, compliance или отчетность, должна существовать возможность объяснить, как эти решения были приняты.
Исследование S&P Global отмечает, что организации все больше внимания уделяют построению governance frameworks для управления рисками AI, включая проблемы качества данных и bias модели.
К будущим системам
Разрыв между современными контролируемыми AI-инструментами и будущими autonomous systems остается большим. Интерес к более автономным и agent-driven системам тоже растет, хотя большинство организаций все еще находятся на ранних этапах внедрения. Системы, которые могут объяснять свои ответы, показывать источники и работать в заданных пределах, с большей вероятностью будут вызывать доверие.
В будущем autonomous agents могут выполнять такие задачи, как финансовый анализ или планирование цепочек поставок, с минимальным участием человека. Но без четких механизмов контроля их использование останется ограниченным.
Эти темы будут представлены на AI & Big Data Expo North America 2026, которая пройдет 18–19 мая. S&P Global Market Intelligence указана как bronze sponsor мероприятия. В программе — темы AI governance и использования AI в regulated industries.
Баланс между возможностями и контролем
Движение к autonomous AI вряд ли замедлится. Развитие large language models и agent-based systems продолжает расширять возможности AI.
Корпоративные пользователи задаются вопросом, как удержать такие системы под контролем. Подход S&P Global Market Intelligence отражает эту озабоченность. Держа AI на базе верифицированных данных и помещая человека в центр принятия решений, компания ставит trust выше autonomy.
По мере роста возможностей систем способность управлять ими и контролировать их может стать не менее важной, чем задачи, которые они выполняют.
(Фото: Hitesh Choudhary)
См. также: Почему такие компании, как Apple, создают AI agents с ограничениями
Хотите узнать больше об AI и big data от лидеров отрасли? Посетите AI & Big Data Expo, которая проходит в Амстердаме, Калифорнии и Лондоне. Это масштабное мероприятие входит в TechEx и проводится совместно с другими ведущими технологическими событиями; здесь можно узнать больше.
AI News работает на базе TechForge Media. Ознакомьтесь с другими предстоящими enterprise technology events и вебинарами здесь.
Материал — перевод статьи с английского.
Оригинал: Companies expand AI adoption while keeping control