🤒 ИИ сказал «безопасно» | Нейросети в центрах мониторинга | Подсказка, которая ослепляет

ИИ-расследователь – нейросеть, которая сама разбирает тревоги в центре мониторинга безопасности, но её уверенный ответ «всё чисто» иногда опаснее, чем отсутствие ответа

В эксперименте Microsoft специалисты пропускали вредоносное письмо в 46% случаев, если ИИ ошибочно называл его безопасным, и только в 17% без подсказки

— В данной статье мы рассмотрим, что ИИ можно доверить в расследовании, а что нельзя, как злоумышленники обманывают нейросеть через текст в логах и как проверять решения машины

ℹ️ Дополнительный материал:
1. Статья на SecurityLab

📂 ИБ Книга // max.ru/itbook_library