Microsoft Teams усиливает контроль над AI-ботами для заметок в совещаниях

По мере того как боты для ведения заметок все активнее проникают в совещания, риски утечек данных и неточных сводок заставили Microsoft действовать, но аналитики считают меры недостаточными.

Microsoft на этой неделе попыталась ответить на растущие проблемы, связанные с bot-ами для заметок на встречах, предоставив IT более широкий контроль над ними.

В объявлении Microsoft говорится, что пользователи Microsoft Teams смогут блокировать ботов не от Microsoft «даже на совещаниях, где организаторы разрешают участникам обходить лобби».

Когда функция включена, Teams автоматически обнаруживает потенциальных ботов, помещает их в лобби встречи, явно идентифицирует их и предлагает организаторам подтвердить допуск, заявила Microsoft. И даже на встречах, где организаторы разрешают людям входить без ожидания в лобби, боты, распознанные этой новой политикой, по-прежнему будут требовать одобрения перед подключением.

«Мы усилили способность Teams различать ботов и людей в момент их присоединения к встрече», — заявила компания. — «Теперь Teams использует комбинацию поведенческих и инфраструктурных сигналов, чтобы с большей точностью идентифицировать ботов. В дополнение к этим улучшениям вскоре мы представим путь регистрации для независимых поставщиков программного обеспечения (ISVs), которые создают решения для проведения встреч в Microsoft Teams».

Однако базовая проблема стратегии сложнее. Хотя AI-боты, запущенные владельцем встречи, обычно объявляются в начале звонка, а боты участников представляются по мере их входа, усталость от сигналов и уведомлений снижает внимательность людей к тому, что они говорят во время таких встреч.

Но более сложный вопрос в том, что одобрение собственных bot-ов для заметок у владельца встречи обычно происходит прямо перед началом звонка, а у организатора нет контроля над тем, появятся ли у участников их собственные AI-боты для заметок.

И даже если предполагаемая тема звонка была безобидной, если кто-то поднимет вопрос, который нужно сохранить в тайне, например планы враждебного поглощения или обсуждение увольнения сотрудника, это будет записано каждым ботом. Это расширяет поверхность угрозы и увеличивает число способов утечки чувствительных данных.

Не ограничивает ботов Microsoft

Аналитики и консультанты согласились, что любая попытка ограничить приложения для заметок полезна для enterprise IT, но некоторые усомнились, что шаг Microsoft зашел достаточно далеко.

«Хотя эта новая возможность полезна, чтобы не допустить внешних ботов на повторяющиеся встречи даже в тех случаях, когда они нужны всего один раз, мне не кажется, что она хоть как-то предотвращает использование собственных ботов Microsoft», — сказал Flavio Villanustre, CISO в LexisNexis Risk Solutions Group.

Действительно, в заявлении Microsoft речь идет только об управлении «внешними ботами и их доступом к встречам».

По словам вице-президента и аналитика Gartner Nader Henein, ограниченные средства контроля, которые предлагает Microsoft, на самом деле могут ослабить способность IT управлять доступом к чувствительной информации.

Любое дополнительное AI-ведение заметок «снимает со стола возможность ограничивать и редактировать», а именно такого контроля, по его мнению, должны требовать ИТ-лидеры. Единственный практический способ сделать это — разрешить только одно приложение для заметок на любую встречу, и оно должно контролироваться владельцем встречи.

«Позволить участникам запрашивать AI-сводку у владельца встречи и дать владельцу возможность предоставлять разные версии, которые потенциально скрывают чувствительные данные, — более удачный выбор для организаций, которые хотят улучшить последующую работу по итогам встреч, не добавляя лишней нагрузки на владельца встречи», — сказал Henein. — «Это можно даже настроить заранее, чтобы “очищенная” сводка была доступна для загрузки».

Tom Findling, CEO компании Conifers.ai, согласился с Henein и заявил, что такие средства контроля для приложений заметок должны быть централизованы через IT.

«Microsoft по сути построила вышибалу для ботов на встречах, и это хорошо. Но настоящий риск проявляется позже, когда обычная встреча превращается в обсуждение M&A, юридических вопросов, HR или совета директоров, а AI-бот для заметок все еще работает», — сказал Findling. — «Теперь эта расшифровка может лежать в облаке, которое никто не одобрял. Это не исправляется по ходу встречи. Это исправляется заранее. Для встреч по юридическим вопросам, финансам, HR и на уровне руководства внешние AI-боты для заметок должны быть заблокированы по умолчанию, если нет явного разрешения».

Существующего governance недостаточно

Sanchit Vir Gogia, главный аналитик Greyhound Research, сказал, что постепенно меняющаяся природа AI-ботов для заметок позволила им обойти правила IT governance.

«Когда-то заметка со встречи была безобидной вспомогательной записью. Теперь это корпоративный документ с поиском, который может содержать намерения, обвинения и существенную непубличную информацию. Как только разговор расшифрован и сохранен, он покидает комнату и начинает жить собственной жизнью, проходя через почту, поиск и discovery», — сказал Gogia. — «Контроль Microsoft полезен, но его не стоит переоценивать. Он обнаруживает внешних ботов и отправляет их на одобрение организатору. Он еще не блокирует их, а одобрение в лобби — это не модель governance. Сбор данных также идет по каналам, которых лобби не видит, через расширения браузера и личные устройства».

Gogia также утверждал, что неизбежные ошибки в таких бот-сгенерированных расшифровках или сводках, вызванные либо галлюцинациями, либо просто неверной интерпретацией сказанного, — это тоже огромный риск.

«AI summary не просто создает запись. Он создает запись, выглядящую авторитетно, но часто ошибочную, и тем самым переворачивает бремя доказательства. Как только сводка существует, вопрос меняется с доказательства того, что было сказано, на опровержение того, что написала машина», — сказал Gogia. — «Неуверенное “нам стоит присмотреться к их покупке” может затвердеть в “мы согласились их купить”, и эта версия станет стандартной, пока кто-нибудь ее не исправит».

А, как отметил Justin Greis, CEO консалтинговой компании Acceligence, проблема будет только усугубляться по мере того, как генераторы AI-сводок будут превращаться в agentic-системы с автономными агентами, которые совершают действия.

«В ближайшие годы мы увидим AI-agents, которые будут подводить итоги, извлекать решения, назначать задачи, обновлять бизнес-системы, готовить документы для последующих действий и взаимодействовать с другими AI-системами после окончания встречи», — сказал он. — «На самом деле мы уже видим, как это интегрируется, и это одновременно невероятно полезно и чудовищно рискованно. Настоящий вопрос не в том, позволять ли AI-бота для заметок. Вопрос в том, как организации будут управлять все более машинно-читаемой рабочей средой».

Greis сказал, что считает подход Microsoft хорошим началом, «потому что они рассматривают AI-участников скорее как цифровые идентичности, чем как программные функции».

Он пояснил: «Обнаружение, проверка, явный допуск, auditability и управление на основе политик — это именно те корпоративные механизмы, которые понадобятся нам, когда AI-agents станут обычным явлением. Это очень похоже на identity and access management двадцать лет назад. В конце концов мы поняли, что управляем не сотрудниками, а идентичностями. AI-agents заслуживают такого же подхода».

Материал — перевод статьи с английского.

Оригинал: Microsoft struggles to address AI notetaker governance nightmare