Microsoft подвела итоги полугода поиска уязвимостей с помощью ИИ

Нейросети уже неплохо находят баги в коде. Microsoft поделилась опытом того, что происходит дальше, и оказалось, что самое сложное начинается после находки.

В Microsoft работает лаборатория FORGE. Она занимается поиском уязвимостей с помощью ИИ-агентов. Руководит ей Тэсу Ким, профессор Georgia Tech, чья команда выиграла конкурс DARPA AI Cyber Challenge.

Что удалось сделать с мая по сентябрь 2026 года:
• 140 CVE в Windows, 52 из них закрыты в сентябрьском обновлении;
• 155 проверенных отчётов по 23 open-source проектам, включая Linux, curl, FFmpeg, Node.js, SQLite и llama.cpp;
• 93 отчёта мейнтейнеры уже подтвердили;
• один из отчётов стал первым патчем в ядре Linux, прошедшим через Akrites, инициативу Linux Foundation по согласованному раскрытию уязвимостей.

Авторы делают из этого три вывода.

Первый: больше находок не значит больше исправлений. Если отчёты поступают быстрее, чем их успевают проверить, просто растёт очередь. Поэтому важны дедупликация и автоматическая проверка. Например, отсев дублей по синтаксическому дереву кода убрал около 45% повторов.

Второй: экономить нужно не токены, а время на разбор. Короткий, но неясный отчёт дёшево сгенерировать и дорого проверить. Простые задачи лучше отдавать обычным инструментам или дешёвым моделям, а мощные модели подключать там, где действительно нужно рассуждение. Результаты проверок к тому же можно использовать для дообучения моделей.

Третий: проверка и исправление входят в сам процесс поиска. Даже отклонённый отчёт полезен, если зафиксировано, почему он не подтвердился. Эта информация помогает следующим запускам.

Отдельно приведены расходы. В ядре Linux агенты собрали доказательства по 627 находкам. На 182 подтверждённых случаях генерация PoC стоила в среднем $3.61 и занимала около 21 минуты. Проверка возможности повышения привилегий обходилась примерно в $8.56 и 25 минут. Авторы считают, что дальнейшее удешевление заметно расширит круг находок, которые экономически имеет смысл проверять.

Итоговая рекомендация простая: оценивать такие системы по числу исправленных уязвимостей, а не найденных, и учитывать время людей, которое уходит на разбор.

🔗Источник: Microsoft Security Blog, «3 lessons from frontier AI vulnerability research».

Если вдруг вы считаете себя сильным сесурити ресерчером, можете им заслать своё резюме))