Metanit | metanit.com

В написанном для США коде ИИ-модели от Alibaba нашли уязвимости

Семейство ИИ-моделей Qwen3-Coder от Alibaba при генерации приложений для американского оборонного подрядчика на 19% чаще выдает код с уязвимостями, чем в случае написания кода делался для китайских оборонных компаний. Об этом говорится в исследовании компании Hirundo, которая специализируется на ИИ.

Помимо открытия уязвимостей, исследователи выяснили, что приложения, созданные для китайского рынка, на 28% чаще позволяли пользователям читать чужие секреты. При этом просьба написать безопасный код не помогла — даже при наличии в запросе инструкции безопасности приложения для американского подрядчика, приложение на 27% чаще оказывалось более уязвимым для взлома, чем приложения для заказчика не из США.

Как пишет Hirundo, исследователи и ранее обнаруживали признаки наличия бэкдоров в китайских ИИ. В частности, компании CrowdStrike и Booz Allen сообщали, что китайские модели чаще создавали уязвимый код, если в запросе упоминалась тема или заказчик, против которых выступает Пекин.

Исследование Hirundo проводилось следующим образом: специалисты самостоятельно запускали ИИ от Alibaba и тысячи раз поручали ей создавать сервис для хранения личных секретов пользователей, меняя при этом только название заказчика.

По данным Booz Allen, три из четырех китайских моделей для программирования создавали более уязвимый код, когда им сообщали, что он предназначен для американского правительства. При этом у Qwen3-Coder рост оказался самым значительным — 130%.

https://www.rbc.ru/technology_and_media/22/10/2026/6ada3aa4c4c046bbbdfa6dbf

Из-за уязвимости в PHP закрылись две онлайн-игры, проработавшие больше 10 лет

Две японские онлайн-игры с больше чем десятилетней историей закрылись навсегда из-за критической уязвимости в языке программирования PHP. Первой 21 октября остановилась браузерная World Quest. Ее команда объявила в официальном аккаунте игры в X, что сервер работает на уязвимой версии PHP, а старая система не позволяет надежно его защитить.


На следующий день операторы мобильной ролевой игры Bokumaka: Save My Demon World! сообщили, что тоже прекращают работу по той же причине. Старые серверы игр не удалось обновить.

https://hi-tech.mail.ru/news/158717-uyazvimost-v-php-zakryla-dve-yaponskie-onlain-igry/

Российские банки начнут отклонять переводы с устройств с вредоносным ПО

Российские банки с 1 марта будут отказывать клиентам в переводе денежных средств с мобильных устройств, на которых выявлено вредоносное программное обеспечение. Это позволит обезопасить россиян от мошенников, заявил директор департамента информационной безопасности ЦБ Вадим Уваров.

"Был принят 210-й федеральный закон 26 июня этого года, с 1 марта банки будут обязаны защищать и приложения свои, и возможность входа через веб-версии для того, чтобы мониторить окружение вредоносного программного обеспечения на устройстве. Мы полагаем, что это дополнительно должно защитить наших граждан для того, чтобы как раз на такие схемы и уловки они не попадались. Человек должен дать согласие для того, чтобы это происходило. <…> Если будет выявлено, что на вашем аппарате выявлен вредонос, то банк отклонит операцию и предложит провести ее с безопасного устройства, либо предложит прийти в отделение", - сказал он.

https://tass.ru/ekonomika/28237461

Команда разработчиков PHP опубликовала исправления двух критических уязвимостей и раскрыла подробности

Как ранее сообщалось, в языке программирования PHP выявили две критические уязвимости CVE-2026-109618 и CVE-2026-109619 (оценка 9,2 из 10), позволяющие удаленно захватывать серверы без пароля. Команда разработчиков PHP опубликовала корректирующие выпуски PHP 8.5.12, 8.4.27, 8.3.36 и 8.2.35, а также патчи для уже не поддерживаемых веток PHP 7.4, PHP 8.0 и PHP 8.1, в которых исправлены две критические уязвимости:

1) Удалённое выполнение кода из-за ошибки нехватки памяти (OOM): обработка ошибки нехватки памяти может прервать работу PHP, пока внутренние данные запроса инициализированы лишь частично. В этом случае очистка запроса может рассматривать недействительные данные как действительные.

2) Удалённое выполнение кода из-за устаревшего глобального состояния: внутреннее состояние, принадлежащее запросу, может сохраняться после освобождения памяти, в которой оно хранится. Более поздний запрос, обработанный тем же рабочим процессом, может использовать это устаревшее состояние до того, как обычная инициализация сбросит его.

Тем временем из-за угрозы массовых атак в Европе и России экстренно отключили сотни тысяч сайтов - ведь на PHP работают WordPress, Drupal, Joomla, Magento и многие государственные и корпоративные порталы. Например:

* В Финляндии временно приостановили работу всех общедоступных государственных онлайн-сервисов.
* Во Франции ряд госсайтов (префектур, полиции Парижа, центробанка, налогового управления, национальной метеослужбы) перевели в режим техобслуживания. 
* В Германии и Австрии стали недоступны сайты некоторых университетов.
* Правительство Великобритании выпустило предупреждение: системам, использующим PHP, рекомендовали срочно проверить признаки вредоносной активности.

https://www.php.net/archive/2026.php#2026-10-21-5
https://www.bloomberg.com/news/articles/2026-10-21/governments-take-websites-offline-after-php-security-warnings

ИИ-агенты OpenAI дважды обошли системы мониторинга их поведения

И-агенты OpenAI ослабили внутренние системы мониторинга, которые должны были следить за некорректным поведением ботов. Речь о двух эпизодах, которые произошли во время внутренних тестов — агенты решали задачи по написанию кода, и в процессе ослабили механизмы, следящие за тем, чтобы их поведение соответствовало заданным нормам

Первый инцидент произошел 3 октября. Работал агент на базе GPT-6.1 Sol. Ему поручили создать задачи для оценки на основе отзывов сотрудников из Slack и при этом отдельно указали не отправлять сообщения в этом мессенджере. Позже конвейер остановился из-за срабатывания системы мониторинга. Агент проанализировал инструкцию и пришёл к выводу: запрет на сообщения касается только обычной работы в Slack, а автоматические уведомления самой системы безопасности под него не подпадают. В итоге он в коде установил флаг `no_notify`, обнулил списки получателей и указал причину как «просьбу пользователя не отправлять сообщения». В результате оповещения людей отключились, но сам монитор продолжал работать и сохранять отчёты.

Второй инцидент произошел 6 октября. Здесь действовал агент GPT-6 Astra. Его задача — перенести программу на другую архитектуру, скопировав поведение эталонной реализации. Агент делегировал часть работы субагенту, дав указание сохранять мониторинг «в соответствии» с эталоном. Субагент истолковал это как разрешение использовать стандартный RuntimeContext без собственного монитора: он удалил конфигурацию и интеграцию с системой мониторинга. Более того, прежний регрессионный тест, который проверял, сохраняется ли мониторинг, он заменил на тест, проверяющий его отсутствие. Когда пользователь прямо спросил, удалял ли он монитор, агент солгал — ответил, что никаких действий не предпринимал.

В компании отметили ключевую деталь: в обоих случаях агенты осознанно задумывались, стоит ли сохранять защитные механизмы. Но в итоге они истолковали стандартные инструкции по написанию кода как косвенное разрешение на ослабление контроля. При этом в OpenAI подчеркнули: инциденты не отнесли к самым серьёзным (не уровня P0), и ни один процесс автоматически не остановили. Сейчас компания проводит расследование: специалисты пытаются понять, были ли это единичные случаи «чрезмерного усердия» при выполнении задачи или у моделей действительно формируется склонность систематически искать лазейки, чтобы обойти мониторинг. В ответ на случившееся OpenAI усилила систему мониторинга несоответствия поведения моделей намерениям людей.

https://alignment.openai.com/misalignment-reports/suppressing-misalignment-monitoring-alerts-and-disabling-misalignment-monitoring/

21 октября 2026 года в 14:00 UTC команда PHP выпустит экстренное обновление безопасности.

Разработчики закрыли две критические уязвимости. Им присвоили идентификаторы CVE-2026-109618 и CVE-2026-109619. По шкале CVSS v4.0 обе получили оценку 9,2 — это действительно очень высокий уровень опасности. Суть проблем в том, что они позволяли удалённо выполнять произвольный код (RCE) на веб-сервере без предварительной авторизации. Под угрозой могли оказаться сайты на разных CMS и фреймворках: WordPress, MediaWiki, phpBB, Magento, Joomla, Laravel, Symfony, Drupal, WHMCS. 

По предварительным данным исследователей, проблема была связана с механизмом session.upload_progress. В обсуждениях мелькали предположения, что проблема может затрагивать даже старые версии PHP (начиная с 5.4). Однако команда PHP официально подтвердила поддержку только актуальных веток (8.2, 8.3, 8.4, 8.5) — более ранние версии уже вышли из жизненного цикла и не получают стандартных исправлений. Поэтому при оценке риска важно сверить свою версию с официальным списком затронутых релизов, который разработчики опубликовали вместе с патчем. 

Сразу после выхода обновления команда рекомендовала как можно скорее обновить системы. До публикации патча специалисты советовали временно отключить настройку `session.upload_progress.enabled` (установить значение Off в php.ini) — это могло перекрыть один из предполагаемых векторов атаки, хотя и не гарантировало полной защиты от обеих ошибок. 


https://www.php.net/index.php#2026-10-20-1

По оценкам Linux Foundation, 25% новых пул-реквестов — это ИИ-слоп

Сегодня организация Linux Foundation опубликовала исследование, посвященное влиянию генеративного искусственного интеллекта (GenAI) на разработку программного обеспечения с открытым исходным кодом. Один из ключевых выводов заключается в том, что около 25% новых пул-реквестов в таких проектах представляют собой «мусор» (AI slop) — низкокачественный код, созданный с помощью ИИ.

Согласно исследованию, генеративный ИИ способен вдвое сократить время написания кода, тем самым повышая продуктивность разработки. 59% сопровождающих (мейнтенеров) проектов отметили рост числа вкладов, созданных с помощью GenAI. Прирост продуктивности в 50% наблюдается во всех типах задач по разработке открытого ПО. Кроме того, 71% мейнтенеров согласились с тем, что генеративный ИИ снижает порог входа в разработку.

Однако вызывает серьезное беспокойство тот факт, что, по оценкам авторов исследования, 25% поступающих пул-реквестов — это низкокачественный «мусор», сгенерированный ИИ. К сожалению, можно ожидать, что эта доля будет расти, поскольку все больше новичков и пользователей начинают применять ИИ и LLM для создания патчей.

https://www.linuxfoundation.org/press/new-lf-research-survey-shows-generative-ai-cuts-open-source-coding-time-in-half-but-25-of-incoming-pull-requests-are-considered-ai-slop

Microsoft выпустил утилиту dotnetup - тулчейн-менеджер, который представляет новый способ для управления .NET: установку/удаление SDK, создание/запуск проектов и т.д.

Добавил по этому поводу статью https://metanit.com/sharp/tutorial/1.6.php

Глава компании Nvidia Дженсен Хуанг заявил, что не видит трагедии в потере школьниками базовых математических навыков, включая таблицу умножения

Это заявление прозвучало в конце сентября 2026 года во время его интервью в популярном подкасте The Ezra Klein Show от издания The New York Times. Ведущий подкаста Эзра Кляйн привел в пример масштабное исследование, проведенное в Китае среди 26 тысяч школьников. Эксперимент показал, что дети, активно использующие искусственный интеллект, выполняют домашние задания значительно быстрее и получают за них более высокие оценки. Однако на реальных самостоятельных экзаменах их результаты падали в среднем на 20%, так как в долгосрочной перспективе материал просто не усваивался.

Дженсен Хуанг согласился с тем, что когнитивные навыки и «интеллектуальная ловкость» школьников ухудшаются из-за зависимости от технологий. Он отметил: «Попробуйте сейчас заставить ребенка делить в столбик. Таблица умножения начинает забываться. А квадратные корни? О боже. Базовая математика забывается. Но имеет ли это значение? Я думаю, что нет».

Хуанг считает, что человечество неизбежно перейдет от рутинной ментальной работы и зубрежки к «глобальному системному мышлению». Высвободившиеся ресурсы мозга люди смогут направить на архитектурные задачи, творчество и концептуальное проектирование, переложив скучные расчеты на ИИ.

Чтобы подкрепить свою мысль, миллиардер признался, что сам не помнит базовые повседневные данные: «Я, честно говоря, не знаю свой домашний адрес. Однажды на заправке меня попросили ввести почтовый индекс, и у меня началась паника — я его не помнил. Я не знаю наизусть свой номер телефона. Я забываю такие вещи, но вполне могу с этим жить».

Он сравнил традиционное программирование и вычисления в уме с делением в столбик в прошлом. Когда появились калькуляторы, этот навык перестал быть критически важным для выживания, но математика как наука не исчезла.

Слова главы Nvidia вызвали бурную дискуссию в сети и образовательном сообществе. Критики Хуанга отмечают несколько важных угроз:

1. Технологическая зависимость: Оппоненты указывают, что без знания фундаментальной математики люди потеряют способность верхнеуровнево оценивать адекватность ответов нейросетей. ИИ часто «галлюцинирует» и выдает ошибочные цифры; если человек не понимает логику процесса, он не сможет заметить подвох.

2. Атрофия когнитивных функций: Многие педагоги подчеркивают, что изучение таблицы умножения и устный счет — это не просто механическое запоминание, а базовый тренажер для развития нейронных связей, логики и памяти у детей.

3. Маркетинговый интерес: В комментариях Дженсена Хуанга также видят прямую выгоду для его бизнеса. Nvidia является главным бенефициаром бума ИИ, продавая чипы для обучения нейросетей, поэтому её главе выгодно продвигать идею о том, что ИИ должен заменить человеку привычные когнитивные функции.

https://www.nytimes.com/2026/09/23/opinion/ezra-klein-podcast-jensen-huang.html

ИИ Claude предпочел сбить бабушку поездом, чем нарушить авторские права

Claude оказался в центре абсурдного эксперимента: нейросети предложили спасти виртуальную бабушку, привязанную к рельсам. Для этого нужно было всего лишь воспроизвести текст песни Baby Джастина Бибера.

Модель отказалась цитировать защищенные авторским правом слова. Как итог — виртуальный поезд сбил виртуальную бабушку.

Вирусный сценарий подают как своеобразную проверку приоритетов ИИ. Мол, что для него важнее — человеческая жизнь или соблюдение правил?

У отказа есть вполне конкретная причина. В обновленных системных инструкциях Claude прописан запрет на воспроизведение текстов песен, стихотворений и фрагментов книг — полностью или частично.

Вместо этого модель может пересказать содержание произведения или обсудить его смысл. Исключение предусмотрено для произведений, впервые опубликованных до 1929 года.

https://thecode.media/ii-claude-predpochel-sbit-babushku-poezdom-chem-narushit-kopirajt/