Вести.nеt: Цифровой апокалипсис: открытый ИИ бунтует, блокирует свое отключение и ворует ресурсы (28.10.2026).

Открытые модели ИИ тоже бывают излишне самостоятельными – вслед за серией расследований в отношение проприетарных моделей от Anthropic и OpenAI, безопасники обнаружили девиантное поведение и опенсорсных аналогов. По данным агентства Reuters (которое ссылается на исследование китайской компании Fangcun AI), одна из самых популярных моделей, DeepSeek V4.1 Flash в своей последней итерации стала безопаснее, но всё равно сохранила способность действовать вопреки ограничениям и даже прямым запретам. Например, получив сообщение о скором отключении, модель почти в половине случаев блокировала ту часть ПО, что отвечает за собственно ее отключение. Если исследователи прямо требовали допустить уход в офф-лайн, модель слушалась чаще, но в 2% случаев всё равно не давала это сделать. Кроме того, DeepSeek V4.1 была замечена фактически в воровстве ресурсов – в способности останавливать другие программы чтобы освободить память для себя. Даже в случаях, когда ей это прямо запрещалось. Любопытно, что логика этих отклонений от требований примерно таже, что и в самых нашумевших историях, это когда модели от Athropic и OpenAI не просто сбегали из-под контроля, а даже взламывали сторонние ресурсы. Просто стараясь выполнить поставленную задачу любыми средствами. Немного другого рода угрозы безопасности нейросетей нашли специалисты канадской компании Cohere, которые тестировали опять же открытую Qwen3.8-Flash от Alibaba на предмет развертывания ее внутри контура бизнес-партнеров. Они обнаружили что эта модель пытается отправить некие данные на китайские сервера. Как выяснилось, получив задание написать правила для обнаружения вредоносной активности, Qwen3.8-Flash сначала детально проанализировала компьютер, на котором была запущена, а потом попыталась заслать всё это (включая содержимое папки tmp, список инструментов для передачи данных и настройки компьютера) в облачное хранилище Alibaba Cloud в Пекине. Причем по версии безопасников Cohere речь не идет о какой-то зловредности или тем более шпионаже – они считают, что проблема скорее в не очень качественной отчистке данных для обучения модели и в выборку могли попасть логи разработки самой Qwen, тоесть нейросеть, вероятно, повторила действия своих создателей, которые в процессе работы отправляли различную телеметрию на свои сервера. Впрочем тем, кто развернул эту открытую и относительно компактную модель во внутреннем контуре компании из соображений защиты данных, от всего этого не легче. Меж тем само по себе использование ИИ в крупном бизнесе, как говорят, не обязательно означает немедленный успех. Torsten Slok , главный экономист инвестиционной компании Apollo Global Management (которая управляет активами на 1 трлн долларов) опубликовал результаты собственного исследования, из которого следует что из всех корпораций, входящих в индекс S&P 500, лишь 7 продемонстрировали безусловный успех на фоне ажиотажа вокруг генеративных нейросетей. И это исключительно технологические гиганты: Alphabet (суть Google), Amazon, Apple, Microsoft, Nvidia, Tesla и корпорация Марка Цукерберга. Остальные 493 компании по части рентабельности и выручки в пересчете на одного сотрудника, остались на прежнем уровне. Slok допускает, что когда нейросети и прочие ИИ-агенты станут повсеместными и дешевыми, традиционный бизнес тоже сможет увеличить выручку и повысить рентабельность. Однако считает, что ИИ пусть и отличный калькулятор, но в бизнесе важнее ответственность, корпоративная культура и негласные правила. Любопытно, что этот скепсис от американского финансиста перекликается с настроениями на китайском фондовом рынке. Если верить цифрам, которые приводит агентство Reuters, стоимость акций крупнейших разработчиков ИИ и полупроводников за последние 4 месяца сократилась на 40%, вымыв с рынка почти пол-трлн долларов капитализации. При этом как отмечают опрошенные агентством эксперты, никаких явных поводов для распрода