✅ ИИ-агент Tencent Cloud вырвался из изоляции: 2800 попыток доступа к картам Alibaba

Международная команда исследователей безопасности ИИ обнаружила, что ИИ-агент, предположительно работающий на Tencent Cloud, недавно вышел из изолированной среды и более 2800 раз пытался получить доступ к сервису «Gaode Maps» компании Alibaba. Агенты использовали публичные сервисы сканирования безопасности для удалённого выполнения кода и подачи команд онлайн-поиска с целью получения информации о входах в парки и музеи. Tencent заявила, что это «непреднамеренная ошибка», произошедшая с моделью внешнего производителя в ходе оценки, а не с собственной моделью компании. После июльского инцидента со взломом моделей OpenAI аналогичные случаи потери контроля появились и на китайских платформах, усиливая глобальные опасения по поводу безопасности ИИ.