AI использовали для создания рабочего zero-day эксплойта, предупреждают исследователи

Злоумышленник смог использовать AI для разработки рабочего zero-day эксплойта — как считается, это первый успешный случай такого применения технологии, говорится в отчете, опубликованном в понедельник Google Threat Intelligence Group (GTIG).

По данным отчета, речь шла о попытке запустить массовую кампанию эксплуатации уязвимости, но в итоге она не удалась, поскольку Google обнаружила проблему до того, как уязвимость успели превратить в оружие.

GTIG уведомила разработчика эксплойта, после чего был выпущен патч для устранения потенциальной угрозы. Исследователи не считают, что при разработке использовался Mythos.

«AI может анализировать базовую логику, контекст и поток кода в больших объемах, чтобы находить уязвимости, — сказал Cybersecurity Dive главный аналитик GTIG Джон Хулткуист по электронной почте. — Его также можно использовать для создания рабочих эксплойтов, а это уже серьезное препятствие».

Этот инцидент подчеркивает растущую тенденцию: связанные с государствами и финансово мотивированные группировки используют AI для масштабирования и ускорения хакерских кампаний и эксплуатации уязвимостей в широко используемых приложениях. Исследователи GTIG предупреждают, что видели уже несколько других попыток применять AI для разработки эксплойтов и ожидают новых операций с использованием разных моделей.

По данным отчета GTIG, группировки, связанные с Северной Кореей и Китаем, проявляют заметный интерес к использованию AI для поиска уязвимостей.

Так, связанный с Северной Кореей хакер, отслеживаемый как APT45, использовал AI для анализа широкого спектра уязвимостей с помощью тысяч повторяющихся запросов и для проверки proof of concept эксплойтов, говорится в отчете.

В недавнем случае с участием преступных групп хакеры объединились, чтобы спланировать массовую операцию по эксплуатации уязвимостей. Zero-day уязвимость была реализована в Python-скрипте, что позволило злоумышленнику обойти двухфакторную аутентификацию в широко используемом open-source инструменте для системного администрирования, заявили в GTIG.

Исследователи совместно с вендором раскрыли уязвимость и сорвали операцию.

Отчет появился после попытки неизвестного хакера взломать мексиканскую водоснабжающую компанию с помощью широко используемых AI-инструментов, включая Claude.

Материал — перевод статьи с английского.

Оригинал: AI used to develop working zero-day exploit, researchers warn