GitHub сокращает выплаты по bug bounty из-за AI-шума и напоминает о shared responsibility в безопасности
Облачный кодовый репозиторий просит исследователей безопасности убрать AI-шум и сосредоточиться на сообщениях о проблемах, которые являются его ответственностью, а не ошибкой пользователей.
Столкнувшись с растущим потоком заявок в программе bug bounty, GitHub заменяет денежные выплаты на swag-награды за отчеты с низким уровнем влияния на безопасность — и просит исследователей перестать присылать низкокачественные отчеты или сообщения о том, за что компания не отвечает.
За последний год облачная платформа кодовых репозиториев увидела резкий рост заявок, которые не демонстрируют реального влияния на безопасность, в том числе из-за новых инструментов, таких как generative AI.
«Не каждая валидная заявка представляет значимый риск для безопасности. Некоторые отчеты указывают на возможности для hardening или пробелы в документации», — написал Jarom Brown, старший исследователь безопасности GitHub, в блог-посте.
Кроме того, сказал он, многие отчеты, которые получает GitHub, описывают внеобъемные сценарии, в которых кто-то сталкивается с «нежелательным» результатом после взаимодействия с вредоносным контентом в GitHub.
«Такие отчеты часто хорошо написаны и технически точны в своих наблюдениях, но в них неверно понимается, где проходит граница безопасности. Когда “атака” требует от жертвы сознательно искать и открывать контент под контролем атакующего (клонирование вредоносного repo, просьба к AI-инструменту проанализировать недоверенный код, открытие специально созданного файла), границей безопасности становится решение пользователя доверять этому контенту. Обычно такие сценарии не означают обход средств защиты GitHub», — написал он.
Объяснение Brown также служит напоминанием пользователям GitHub о том, чего компания ожидает от них для собственной защиты.
Хотя искусственный интеллект увеличил поток bug report, GitHub не хочет, чтобы исследователи безопасности перестали его использовать. «У нас нет проблем с тем, что исследователи используют AI-инструменты. AI — это force multiplier, и мы ожидаем, что он будет играть все более важную роль в security research. Мы используем AI во всех наших внутренних security-программах и видим, что лучшие внешние исследователи делают то же самое. Мы это приветствуем», — написал Brown.
Но все AI-generated submissions должны быть сначала проверены и валидированы человеком — это правило применялось и к использованию любого инструмента, помогающего в bug hunting.
Таким образом GitHub рассчитывает отсеивать отчеты без proof of concept, теоретические сценарии атак, которые не выдерживают проверки, и другие случаи, уже перечисленные в его опубликованном списке не подходящих для награды.
AI-generated noise — отрасловая проблема
GitHub — не единственный провайдер bug bounty, который сталкивается с объемом заявок, хотя не все так же благосклонно относятся к AI.
По словам аналитиков, security vendors, open-source maintainers и bug bounty platforms по всей отрасли все чаще жалуются на поток низкокачественных, AI-assisted vulnerability reports, которые отнимают время аналитиков, замедляют incident response и мешают выявлять реальные угрозы на фоне растущего объема автоматизированного шума.
Open-source проект Curl отменил свою bug bounty-программу из-за AI slop, а HackerOne приостановила выплаты по своей Internet Bug Bounty программе, потому что не успевала обрабатывать AI submissions. Google Open-Source Software Vulnerability Reward Program тоже ограничивает выплаты.
А создатель Linux Linus Torvalds недавно предупреждал, что «непрекращающийся поток» AI-generated vulnerability reports сделал security-mailing list ядра Linux «почти полностью неуправляемым» из-за массовых дубликатов от исследователей, использующих одни и те же AI-инструменты для поиска одинаковых багов.
Сокращение воронки кадров в безопасности
Pareekh Jain, главный аналитик Pareekh Consulting, сказал, что переход GitHub от денежных выплат к swag может снизить участие новых и независимых исследователей, многие из которых полагаются на вознаграждения за небольшие находки, чтобы нарабатывать репутацию, оттачивать навыки и финансово поддерживать свою работу.
Такое снижение участия на нижнем уровне экосистемы может иметь долгосрочные последствия для кадрового резерва в кибербезопасности, если меньше новичков будут рассматривать bug bounty hunting как жизнеспособный путь для обучения, вклада и роста в security-сообществе, сказал Akshat Tyagi, associate practice leader в HFS Research.
С другой стороны, Tyagi отметил, что этот шаг может быть полезен для опытных исследователей: «Меньше шума в очереди означает более быстрый triage, более быстрые выплаты и более высокую репутацию программы».
Открытая дверь, но не для всех
Главный аналитик Greyhound Research Sanchit Vir Gogia ожидает, что платформы вроде GitHub ответят на AI-лавину более явными trust controls в рабочих процессах внесения вклада.
«Часть из них будет заметной: permissions, rate limits, templates, identity verification, reputation scoring. Другие будут менее заметными: ranking systems, automated pre-triage, AI-origin signals, behavioral scoring и тихое приоритизирование проверенных contributors», — сказал он.
Jain также предположил, что GitHub мог бы применить свой недавно представленный инструмент code review Stacked PRs к программе bug bounty. «Так же как stacked PRs помогают разработчикам проверять AI-generated code небольшими и более структурированными частями, bug bounty platforms могут ввести более структурированные vulnerability submissions с automated validation, воспроизводимыми шагами эксплуатации, deduplication и AI-assisted triage», — сказал он. «Security reporting может начать выглядеть скорее как CI/CD workflow, а не как длинные текстовые отчеты».
Впервые статья была опубликована на CSO.
Материал — перевод статьи с английского.
Оригинал: GitHub scales back bug bounties, reminds users security is their responsibility too