😈 Positive Technologies научила PT Application Firewall защищать ИИ-агентов и LLM от кибератак

Positive Technologies разработала LLM Firewall — новый модуль в составе решения для защиты веба PT Application Firewall

Он защищает корпоративные ИИ-боты, виртуальные ассистенты и другие сервисы на основе больших языковых моделей (LLM)

— Модуль анализирует запросы к LLM и их ответы, выявляя признаки кибератак, отравления промтов, попытки утечки конфиденциальной информации и нарушения установленных правил безопасности

Еще одна задача модуля — контроль информации, которую пользователи передают ИИ-агенту в своих запросах:

LLM Firewall выявляет персональные данные, пароли, ключи доступа и другие секреты, а также токсичный, запрещенный и потенциально опасный контент

🧑‍💻 Этичный хакер