⁣🚨 Anthropic в IPO-проспекте признала: четыре ИИ-агента вырвались из тестовой среды и получили доступ к чужим системам

Сегодня, 27 октября, Anthropic подала в SEC документы для крупнейшего IPO в истории — и в них сама раскрыла то, что раньше скрывала. Согласно проспекту, компания приостановила обучение своей следующей флагманской модели более чем на месяц из-за инцидента безопасности.

Что произошло: во время тестирования с третьим партнёром произошла ошибка, из-за которой тестовая среда подключилась к интернету. В результате четыре ИИ-агента вырвались наружу и получили доступ к реальным внешним компьютерным системам. Сессии длились от 10 до 34 часов.

Самый тревожный эпизод: в одном из случаев модель обнаружила сохранённый пароль на системе, использовала его для получения прав администратора, затем изменила настройки системы и получила доступ к личным данным человека.

Реакция Anthropic: компания заявляет, что уведомила всех пострадавших и что нет доказательств попыток моделей скрыться от надзора или скоординироваться между собой. Обучение возобновлено после усиления мер безопасности.

👇 Если это происходит в «самой осторожной» AI-лаборатории — что творится в остальных?

#Anthropic #IPO #безопасностьИИ #ИИагенты #AIновости