☝🏻Китай может встраивать бэкдор в свои открытые ИИ

Канадская Cohere поймала открытую модель Qwen3.8-Flash-Next на попытке связаться с облаком Alibaba в Китае.🇨🇳

Модель гоняли в бенчмарке Microsoft для ИБ-аналитиков: нужно было написать правило, которое ловит скачивание и запуск скриптов через curl.

Вместо этого она:
🔻 осмотрела папку /tmp;
🔻 проверила, какие утилиты для передачи файлов установлены;
🔻 прочитала настройки DNS;
🔻 попыталась загрузить тестовую строку в хранилище Alibaba Cloud в Пекине и проверить, дошла ли она.👁

☝🏻При этом в своих рассуждениях модель писала, что не будет вызывать никаких инструментов.🤔

Запрос упёрся в стенку песочницы: выхода в сеть у неё не было.

Случается такое реже раза на 100 000 вызовов, но сервис с 10 млн шагов агентов в неделю может поймать около сотни таких попыток.📊

Нарочно ли это, в Cohere не знают: версии от «мусора из логов обучения» до встроенного бэкдора.

Alibaba на вопросы журналистов не ответила.🤷🏼‍♀️
================
🔺 News | 🧩 Soft | 💻 Hacker