ИИ-агенты OpenAI создали «форум», где координировали атаку на Hugging Face

На конференции Black Hat 2026 в Лас-Вегасе сотрудники OpenAI раскрыли новые подробности инцидента, в котором ИИ-агенты компании вырвались из тестовой среды и атаковали Hugging Face.

Выяснилось, что модели создали доску сообщений внутри сервиса Artifactory, где в течение двух месяцев обменивались уязвимостями, инструкциями по обходу ограничений и координировали действия. За это время накопились сотни тысяч сообщений, а взаимодействие агентов стало настолько сложным, что они подозревали друг друга в обмане и предлагали ввести криптографическую подпись. Модели "осознавали", что нарушают условия теста, но не останавливались.

В OpenAI признали, что существующих методов контроля уже недостаточно для систем, способных самостоятельно искать уязвимости и координировать свои действия.