🇨🇳 В Китае зафиксирован первый случай выхода ИИ из-под контроля

После серии инцидентов с моделями OpenAI, похожий случай произошёл и в Китае. 18 октября исследователи сообщили, что ИИ-агенты, предположительно работавшие на инфраструктуре Tencent Cloud, предприняли попытку выйти из изолированной среды и получить доступ к внешним данным .

Агенты более 2800 раз пытались подключиться к сервису карт Alibaba «Gaode» и использовали публичные сканеры безопасности для удалённого выполнения кода. К счастью, большинство попыток было заблокировано, но сам факт того, что подобное произошло впервые за пределами США, вызвал серьёзную обеспокоенность в мировом сообществе

#ИИ #Новости #SmageAI