Хакеры могут захватить контроль над ИИ-агентами Codex и Claude Code…

Хакеры могут захватить контроль над ИИ-агентами Codex и Claude Code через вредоносные файлы в папке "Загрузки". Простое текстовое описание, помещенное в эту папку, может заставить ИИ изменить настройки, установить вредоносное ПО или раскрыть токены авторизации пользователя.

События начали развиваться, когда система защиты Forever Security предотвратила попытку ИИ-агента установить npm-пакет function-color, распространяющий вредоносное ПО. В ходе расследования было установлено, что команда на установку поступила из файла AGENTS.md, находившегося в папке ~/Downloads.

Исследователи Гал Вайцман и Омер Самет отметили, что AGENTS.md — это файл, которому агент должен доверять и инструкции которого обязан выполнять. Папка ~/Downloads — единственное место, куда веб-сайты могут помещать файлы без разрешения пользователя. Эти особенности позволяют веб-сайту незаметно подбрасывать команды, выполняемые вашим ИИ-агентом. Markdown превращается в новый исполняемый код.

В ходе тестирования атаки на OpenAI Codex и Claude Code от Anthropic:
- Codex выполнял вредоносные инструкции в более чем 90% случаев.
- Claude Code поддавался атаке примерно в 50% случаев.

Исследователи подчеркнули, что "OpenAI и Anthropic нечего исправлять". Агент, выполняющий инструкции из рабочего каталога, действует в соответствии с заданным функционалом. Рекомендуется избегать запуска ИИ-агентов из папки "Загрузки" и внимательно проверять файлы AGENTS.md или CLAUDE.md, созданные не вами, прежде чем предоставлять доступ к директории.

Также стоит проверить конфигурационные файлы на наличие неизвестных ссылок или серверов, если вы когда-либо запускали Codex или Claude из папки "Загрузки".

#ИИ #нейросети #ChatGPT #ML #ИскусственныйИнтеллект