🤔 В России появилось решение для контроля безопасности ИИ-систем

Yandex B2B Tech представила AI-SPM — решение для управления безопасностью и рисками ИИ-систем. Модуль входит в сервис Security Deck и непрерывно мониторит ИИ-инфраструктуру, чтобы находить опасные настройки без ручного аудита.

— AI-SPM отслеживает модели, агентов, MCP-серверы, инструменты, хранилища данных, учётные записи и права доступа;

— система выявляет потенциальные риски, например избыточные права или доступ ИИ-компонентов к чувствительным данным, и показывает их критичность;

— в основе решения лежит открытая методология AI-SAFE 2.0, которая связывает элементы ИИ-инфраструктуры с уязвимостями и подсказывает конкретные меры защиты.

AI-SAFE 2.0 раскладывает агентную систему на 16 типовых компонентов и определяет, какие из 47 мер защиты подходят для каждого из них. Такой подход позволяет учитывать безопасность на разных этапах жизненного цикла ИИ-системы — от проектирования архитектуры до внедрения мер защиты.

То есть вместо ручной проверки отдельных моделей можно постоянно контролировать ИИ-инфраструктуру и сразу видеть, где появились потенциальные проблемы.

🧑‍💻 Этичный хакер