- Обеспечение безопасности AI стало приоритетом для CIO, согласно отчету Logicalis, опубликованному в понедельник. В исследовании, в котором приняли участие более 1000 CIO по всему миру, более четверти респондентов назвали AI значимым источником риска, поставив его почти на один уровень с традиционными угрозами вроде malware, ransomware и phishing.
- Неправомерное использование AI сотрудниками усиливает тревогу: 57% CIO заявили, что персонал ставит под угрозу безопасность данных. Несмотря на растущий риск, меры AI governance остаются ограниченными: только 37% организаций сообщили, что видят, какие AI-инструменты используются.
- Проблемы, связанные с появлением AI, настолько серьезны, что почти половина участников исследования Logicalis сказала, что предпочла бы, чтобы AI «не был изобретен».
Мнение Dive:
Хотя традиционные угрозы по-прежнему остаются главной проблемой для CIO, AI все чаще рассматривается как риск, поскольку бизнес-лидеры сталкиваются с такими критическими вопросами, как shadow AI, app sprawl и отсутствие контроля.
Команды безопасности, и без того работающие с перегрузкой, теряют позиции на фоне растущих слепых зон: более трети респондентов сообщили о снижении способности выявлять инциденты и об ухудшении времени реагирования на инциденты.
Одновременно внутреннее злоупотребление AI создает новые кадровые проблемы. Две трети опрошенных считают, что обучение сотрудников управлению рисками AI недостаточно, а 94% CIO сообщают о нехватке специалистов по cybersecurity.
Хотя одновременно с ростом угроз усиливается внимание к повышению квалификации и расходам на устранение последствий инцидентов после взлома, все более очевидной становится необходимость смещать реакцию с режима устранения последствий на профилактику.
«AI — мощная сила в cybersecurity, но без правильных навыков и governance он может создавать больше уязвимостей, чем защиты», — заявил в отчете CEO Logicalis Group Боб Бейлко́ски. «Перед CIO стоит сложная задача защищать свои организации от угроз, создаваемых AI, а также от рисков, исходящих от самих AI-инструментов, которые должны их защищать».
В ответ на это Бейлко́ски рекомендует CIO с самого начала внедрения AI-инициатив интегрировать в них governance и прозрачность, чтобы обеспечить долгосрочную стабильность.
Эти выводы согласуются с более широкими отраслевыми опасениями. Недавние публикации Cloud Security Alliance и Thales также показали, как неструктурированные данные и слабо управляемые AI-пайплайны расширяют поверхность атаки предприятия, при этом 68% компаний, участвовавших в опросе, заявили, что большая часть их данных остается незащищенной.
Надежные данные, обучение с акцентом на AI и улучшенное governance были названы ключевыми инструментами снижения риска.
Такие инициативы, как Project Glasswing, недавно объявленная Anthropic инициатива по выявлению и устранению уязвимостей в ПО, дополнительно подчеркивают растущее стремление масштабировать governance параллельно с внедрением технологий.
Инициатива была запущена вместе с партнерами, включая AWS, Apple, Broadcom, Cisco, Google и других, которые будут использовать модель Anthropic Claude Mythos Preview для выявления и устранения уязвимостей.
Материал — перевод статьи с английского.
Оригинал: CIOs fret over rising security concerns amid AI adoption