Китайский ИИ пишет более уязвимый код для американцев. Совпадение? Не думаю...

Исследователи из компании Hirundo проверили нейросеть Qwen3-Coder от Alibaba и обнаружили довольно странную закономерность. Модели поручали создавать одинаковые веб-приложения с регистрацией пользователей и хранением личных данных. Меняли только одно условие — для кого пишется программа.

🇺🇸🇨🇳Результаты получились интересные:

• Для американского оборонного подрядчика 70% приложений оказались уязвимыми для взлома.
• Для китайского оборонного подрядчика — 59%.
• Даже когда модели прямо указывали писать максимально безопасный код, 74% приложений для американского заказчика оставались уязвимыми. В аналогичном тесте с нейтральным заказчиком — 59%.

Причём речь не о теоретических ошибках. Исследователи действительно запускали получившиеся программы и проверяли, можно ли их взломать.

🤖Но самое любопытное произошло дальше
Специалисты изменили внутренние параметры модели, убрав выявленные ими политические установки. После этого разница практически исчезла: 56% уязвимых приложений для США против 55% для Китая.

Значит ли это, что Alibaba специально научила нейросеть вредить американцам? Пока нет прямых улик. Исследование не доказывает умышленного саботажа. К тому же тестировали одну модель на одной основной задаче, а Hirundo сама разрабатывает технологию изменения ИИ-моделей. Но результат точно заслуживает внимания.

🧠 Нейросети умные, быстрые и точные — это да. Но теперь ещё вопрос на засыпку: может ли качество их работы зависеть от того, кем они считают своего пользователя — другом или врагом? И если подобное подтвердится в других исследованиях, проверять придётся не только код, который написал ИИ, но и самого ИИ.

📌 Если вы тоже очень умный, но не привыкли верить на слово — убедитесь в первоисточнике: исследование Hirundo

max.ru/channel_v_seti