🛡 Снижаем ИИ-риски имеющимися инструментами

🛡 Снижаем ИИ-риски имеющимися инструментами

Организациям со зрелой ИБ не обязательно внедрять десяток модных решений, чтобы контролировать риски, связанные с появлением в бизнес-процессах ИИ-агентов. Как мы уже упоминали, ИИ-агенты во многом похожи на инсайдерскую угрозу, а инструменты они используют примерно так же, как атакующие, работающие по тактике LotL. Весь фокус в том,чобы научить традиционные СЗИ отличать деятельность полезного ИИ-агента от активности, порождённой атаками злоумышленников на ИИ-системы.

Чтобы решить эту задачу, «Лаборатория Касперского» обновила правила и экспертное наполнение сразу нескольких продуктов, упрощая ИБ-командам моделирование угроз, блокировку несанкционированных ИИ-сервисов, отслеживание подозрительных действий ИИ-агентов и фильтрацию небезопасного контента (вредоносных скиллов и ML-моделей).

Подход строится на поведенческом детектировании, а не на простом запрете ИИ-инструментов. Например, обновлённые правила Kaspersky Endpoint Detection and Response обнаруживают случаи, когда агент получает доступ к файлам с учётными данными, или когда приложение неожиданно подключается к внешнему API какой-то LLM. Решение также сигнализирует об опасных настройках, например если агенты работают в авторежиме (YOLO) или с отключенной песочницей.

Чтобы принимать решения о настройках ИИ на базе реальных, а не гипотетических рисков, в Threat Intelligence Portal и новом подразделе Hunt Hub появились подробные профили ИИ-агентов и того, как злоумышленники их атакуют. В информацию входит готовая к использованию логика детектирования и сетевые артефакты.

Подробный разбор того, как в защите ИИ участвуют вышеописанные компоненты, какие правила есть в EDR, а также о возможностях Kaspersky Scan Engine и функциях контроля доступа читайте в статье на Securelist.