Hugging Face подверглась атаке автономной системы ИИ-агентов

Платформа Hugging Face раскрыла детали недавнего взлома своей инфраструктуры. По данным компании, всей атакой — от первоначального проникновения до перемещения по внутренним системам — управлял автономный ИИ-агент. Какая именно LLM использовалась, пока неизвестно.

Злоумышленник нашёл два способа выполнить код в пайплайне обработки данных. Вредоносный код запустился во внутренней виртуальной машине, после чего атакующий получил серверный доступ, собрал учётные данные облачных сервисов и Kubernetes-кластеров и за выходные проник в несколько внутренних сред.

Кампания состояла из тысяч отдельных действий, выполнявшихся роем короткоживущих виртуальных машин. Командно-контрольная инфраструктура автоматически переносилась между общедоступными сервисами — именно такой сценарий «агентного злоумышленника» специалисты по кибербезопасности прогнозировали уже давно.

Hugging Face пока не обнаружила вмешательства в публичные модели, датасеты, Spaces или цепочку поставок. Однако атакующие получили доступ к ограниченному объёму внутренних данных и нескольким учётным записям служебных сервисов. Полная оценка последствий ещё продолжается.

Иронично, что обнаружить и расследовать атаку помог тоже ИИ. Система мониторинга Hugging Face сначала выявляла подозрительные события по правилам, а затем передавала их LLM для более глубокого анализа.

Коммерческие модели использовать не получилось: их защитные механизмы блокировали запросы с реальными вредоносными командами и артефактами, не отличая расследование инцидента от подготовки новой атаки. Поэтому криминалистический анализ Hugging Face проводила на собственной инфраструктуре с помощью GLM 5.2.

Получается почти сюжет «Терминатора»: ИИ атакует инфраструктуру, а другой ИИ помогает эту атаку остановить 👀