Отчет RUSI: AI помогает обходить санкции и отмывать средства для программ ОМУ

Новый отчет RUSI показывает, как модели AI помогают режимам вроде КНДР и Ирана проводить кибероперации и избегать обнаружения.

В ближайшие три–пять лет и государствам, и частному сектору придется быстро адаптировать протоколы идентификации и реагирования, поскольку злоумышленники переходят от AI-assisted к AI-enabled обходу санкций и финансированию распространения оружия массового уничтожения (WMD), предупреждает новый исследовательский отчет.

В отчете Algorithms of Evasion: The Rise of AI-Enabled Proliferation Financing от Royal United Services Institute (RUSI), британского аналитического центра в сфере обороны и безопасности, PF определяется как использование средств или финансовых услуг для приобретения, разработки или иного обращения с оружием массового уничтожения (WMD). В документе говорится: «Северная Корея и Иран уже разрабатывают и внедряют модели AI, чтобы помогать в обходе санкций».

К ключевым выводам относится то, что AI уже способен массово создавать качественные поддельные документы, а также автоматизировать, как описывает отчет, «административную рутину управления обширными сетями подставных компаний». Кроме того, системы на базе AI могут «анализировать паттерны блокчейна в реальном времени и динамически корректировать стратегии микширования криптовалюты, эффективно обходя инструменты обнаружения».

Кроме того, в отчете сказано, что «[инструменты вроде generative AI], которые, например, могут создавать сложные поддельные удостоверяющие документы, помогли Северной Корее проводить phishing-атаки против западных компаний».

Доктор Aaron Arnold, старший ассоциированный научный сотрудник Centre for Finance and Security в RUSI, который является автором отчета, написал в письме, что поводом для исследования стал рост за последний год использования AI Северной Кореей для поддержки и усиления киберопераций — в форме phishing-схем, призванных приносить доход для программ баллистических ракет и ядерного оружия страны.

Он посоветовал руководителям enterprise IT, которым нужно защитить свои организации от вовлечения в схемы обхода санкций, «в значительной степени адаптироваться к среде, где традиционные, ориентированные на человека границы безопасности обходятся автоматизированными технологиями».

Для IT-менеджеров, по словам Arnold, это может означать внедрение defensive AI, использование behavior-based analytics, применение «circuit breakers» при интенсивном использовании API или MCPs, обновление обучения персонала и усиление проверки личности, особенно при удаленном найме.

Различие между AI-assisted и AI-enabled активностью имеет «центральное» значение

Sanchit Vir Gogia, главный аналитик Greyhound Research, сказал, что отчет RUSI важен «потому что он называет правильный структурный сдвиг. AI не создает обход санкций из ничего, он сжимает и масштабирует методы, которые уже работают».

Он отметил, что сами техники обхода санкций — поддельные документы, synthetic identities, shell companies, скрытое бенефициарное владение, crypto laundering и другие — не новы. «Меняются скорость, качество, объем и координация, с которыми эти методы теперь можно собирать», — сказал он.

По словам Gogia, «различие между AI-assisted и AI-enabled активностью является центральным. AI-assisted evasion использует AI для отдельных задач: написать более удачное письмо, подготовить более чистый документ, сгенерировать более убедительный ложный профиль, перевести питч, кратко изложить регуляторные требования или подготовить правдоподобное резюме. AI-enabled evasion — это более серьезная история».

Структурная асимметрия

«Этот подход начинает координировать саму систему, — сказал он. — Он связывает идентичность, документы, структуры владения, маршруты платежей, доступ к облаку, crypto wallets, API calls и тайминг. Разница не в том, помогает ли AI кому-то подделать документ. Разница в том, начинает ли AI orchestrate обман».

Именно поэтому выводы отчета должны беспокоить руководителей enterprise, отметил он: «Многие организации все еще исходят из того, что злоумышленник в основном человек, в основном линеен и в основном медлителен. Это допущение устаревает. AI позволяет атакующим делать больше попыток, с меньшим числом ошибок, через большее число каналов, на большем числе языков, с более качественными документами и большим терпением, чем способны переварить большинство корпоративных процессов проверки. Это не история о гениальных преступниках, открывших магию. Это история о том, как обычные контроли сталкиваются с индустриализированной правдоподобностью».

По его словам, сегодня наиболее убедительные доказательства относятся к таким тактикам, как кража личности, подделка документов, synthetic personas, обман remote-worker, phishing, social engineering, crypto obfuscation и злоупотребление workflow. «Полностью автономные сети обхода санкций находятся на горизонте, — сказал он. — Это серьезно, но пока не является повседневной нормой».

Это различие важно, сказал Gogia: «Если предприятия будут зацикливаться на кинематографичных сценариях автономных агентов, оставляя дыры в удаленном найме, onboarding поставщиков, утверждении платежей и проверке документов, они проиграют самым прозаичным образом, какой только можно представить».

Он также отметил, что в отчете верно описана «асимметрия». «Атакующие могут учиться по всей экосистеме, — сказал он. — Они могут собирать открытую информацию, повторно использовать утекшие записи, изучать паттерны enforcement, тестировать формы onboarding, анализировать данные о публичных закупках, читать судебные материалы, проверять пороги compliance и [использовать это, чтобы] корректировать свое поведение».

Защитники, напротив, ограничены нормами приватности, фрагментированными данными, требованиями explainability, юрисдикционными границами, консервативными операционными моделями и разрозненными технологическими стеками. «Offensive AI учится широко, — сказал он. — Defensive AI часто учится по фрагментам. В этом и состоит структурная асимметрия».

Он пояснил, что нормативная среда тоже усугубляет проблему, поскольку регуляторы «по-прежнему говорят на разных диалектах. [Например] EU AI Act подталкивает организации к более строгим обязательствам для high-risk AI. Рамки в духе NIST продвигают risk management, прозрачность и governance».

Проблема trust architecture

Ожидания Financial Action Task Force (FATF) подталкивают к национальной оценке рисков и мерам против распространения ОМУ, отметил он, а банковские регуляторы сосредоточены на model risk, accountability и operational resilience. «Ни один из этих потоков не является несущественным. Проблема в том, что преступники не организуют свою работу по регуляторным потокам. Они организуются вокруг результатов».

Из этого следует, сказал Gogia, что enterprise не может ждать единого глобального свода правил. «Он не появится вовремя. CIO, CISO, compliance-офицерам и советам директоров уже сейчас нужна рабочая модель governance. Им нужны privacy-preserving analytics, контролируемые среды данных, audit trails, юридические защитные механизмы и понятная ответственность за model risk».

Он сказал, что IT-менеджерам предприятий следует рассматривать ситуацию как проблему trust architecture, а не как узкую задачу sanctions screening. «Неудобная правда в том, что AI не просто помогает плохим актерам писать более удачные phishing-письма или подделывать более аккуратные документы, — отметил он. — Он помогает им производить видимость легитимности на всей цепочке enterprise workflows».

Вероятный итог — «AI arms race»

Автор отчета Arnold также отметил, что появились признаки того, что киберпреступники обнаружили новые возможности AI, которые легальные компании могли бы использовать в законных сценариях.

История, сказал он, «полна примеров, когда [преступники] разрабатывали новые решения сложных проблем, а затем их перенимали правоохранительные органы. Значительная часть нашей политики против финансовых преступлений фактически является ответом на то, что злоумышленники эксплуатируют системы или используют технологии новыми способами для совершения преступлений. В этом сценарии, я думаю, наиболее вероятным исходом станет „AI arms race“ между правоохранительными органами и плохими актерами».

Gogia добавил: «плохие ребята не учат enterprise тому, как изобретать AI. Они показывают enterprise, где протекает trust. Это урок, к которому стоит отнестись серьезно».

Эта статья впервые появилась на CIO.com.

Материал — перевод статьи с английского.

Оригинал: Another IT governance headache: AI-enabled sanction evasion