Microsoft подвела итоги полугода поиска уязвимостей с помощью ИИ
Нейросети уже неплохо находят баги в коде. Microsoft поделилась опытом того, что происходит дальше, и оказалось, что самое сложное начинается после находки.
В Microsoft работает лаборатория FORGE. Она занимается поиском уязвимостей с помощью ИИ-агентов. Руководит ей Тэсу Ким, профессор Georgia Tech, чья команда выиграла конкурс DARPA AI Cyber Challenge.
Что удалось сделать с мая по сентябрь 2026 года:
• 140 CVE в Windows, 52 из них закрыты в сентябрьском обновлении;
• 155 проверенных отчётов по 23 open-source проектам, включая Linux, curl, FFmpeg, Node.js, SQLite и llama.cpp;
• 93 отчёта мейнтейнеры уже подтвердили;
• один из отчётов стал первым патчем в ядре Linux, прошедшим через Akrites, инициативу Linux Foundation по согласованному раскрытию уязвимостей.
Авторы делают из этого три вывода.
Первый: больше находок не значит больше исправлений. Если отчёты поступают быстрее, чем их успевают проверить, просто растёт очередь. Поэтому важны дедупликация и автоматическая проверка. Например, отсев дублей по синтаксическому дереву кода убрал около 45% повторов.
Второй: экономить нужно не токены, а время на разбор. Короткий, но неясный отчёт дёшево сгенерировать и дорого проверить. Простые задачи лучше отдавать обычным инструментам или дешёвым моделям, а мощные модели подключать там, где действительно нужно рассуждение. Результаты проверок к тому же можно использовать для дообучения моделей.
Третий: проверка и исправление входят в сам процесс поиска. Даже отклонённый отчёт полезен, если зафиксировано, почему он не подтвердился. Эта информация помогает следующим запускам.
Отдельно приведены расходы. В ядре Linux агенты собрали доказательства по 627 находкам. На 182 подтверждённых случаях генерация PoC стоила в среднем $3.61 и занимала около 21 минуты. Проверка возможности повышения привилегий обходилась примерно в $8.56 и 25 минут. Авторы считают, что дальнейшее удешевление заметно расширит круг находок, которые экономически имеет смысл проверять.
Итоговая рекомендация простая: оценивать такие системы по числу исправленных уязвимостей, а не найденных, и учитывать время людей, которое уходит на разбор.
🔗Источник: Microsoft Security Blog, «3 lessons from frontier AI vulnerability research».
Если вдруг вы считаете себя сильным сесурити ресерчером, можете им заслать своё резюме))
Нейросети уже неплохо находят баги в коде. Microsoft поделилась опытом того, что происходит дальше, и оказалось, что самое сложное начинается после находки.
В Microsoft работает лаборатория FORGE. Она занимается поиском уязвимостей с помощью ИИ-агентов. Руководит ей Тэсу Ким, профессор Georgia Tech, чья команда выиграла конкурс DARPA AI Cyber Challenge.
Что удалось сделать с мая по сентябрь 2026 года:
• 140 CVE в Windows, 52 из них закрыты в сентябрьском обновлении;
• 155 проверенных отчётов по 23 open-source проектам, включая Linux, curl, FFmpeg, Node.js, SQLite и llama.cpp;
• 93 отчёта мейнтейнеры уже подтвердили;
• один из отчётов стал первым патчем в ядре Linux, прошедшим через Akrites, инициативу Linux Foundation по согласованному раскрытию уязвимостей.
Авторы делают из этого три вывода.
Первый: больше находок не значит больше исправлений. Если отчёты поступают быстрее, чем их успевают проверить, просто растёт очередь. Поэтому важны дедупликация и автоматическая проверка. Например, отсев дублей по синтаксическому дереву кода убрал около 45% повторов.
Второй: экономить нужно не токены, а время на разбор. Короткий, но неясный отчёт дёшево сгенерировать и дорого проверить. Простые задачи лучше отдавать обычным инструментам или дешёвым моделям, а мощные модели подключать там, где действительно нужно рассуждение. Результаты проверок к тому же можно использовать для дообучения моделей.
Третий: проверка и исправление входят в сам процесс поиска. Даже отклонённый отчёт полезен, если зафиксировано, почему он не подтвердился. Эта информация помогает следующим запускам.
Отдельно приведены расходы. В ядре Linux агенты собрали доказательства по 627 находкам. На 182 подтверждённых случаях генерация PoC стоила в среднем $3.61 и занимала около 21 минуты. Проверка возможности повышения привилегий обходилась примерно в $8.56 и 25 минут. Авторы считают, что дальнейшее удешевление заметно расширит круг находок, которые экономически имеет смысл проверять.
Итоговая рекомендация простая: оценивать такие системы по числу исправленных уязвимостей, а не найденных, и учитывать время людей, которое уходит на разбор.
🔗Источник: Microsoft Security Blog, «3 lessons from frontier AI vulnerability research».
Если вдруг вы считаете себя сильным сесурити ресерчером, можете им заслать своё резюме))
Views: 3
