Metanit | metanit.com

Сэм Альтман: "Оперативная память в вашем компьютере — ужасная трата дефицитных ресурсов"


Сэм Альтман, руководитель компании OpenAI:
"
Локальный инференс — это крайне неэффективное распределение дефицитных ресурсов. Многие хотят использовать локальный инференс, полагая, что раз появились модели с открытым исходным кодом, которые можно запускать на собственных компьютерах, то необходимость в мощностях дата‑центров отпадает. Однако, если смотреть на ситуацию в глобальном масштабе, это крайне нерационально: значительная часть мирового запаса оперативной памяти (DRAM) стоит на пользовательских компьютерах, где она используется лишь пять процентов времени. В условиях жесткого дефицита ресурсов необходимо стремиться к максимальной загрузке мощностей в облаке.

Удивительно, но интуиция многих людей подсказывает им ровно обратное.


"

Видимо, Альтман намекает на то, что вместо локальных моделей лучше купить подписку у OpenAI. Ну что ж, хорошая идея. Но проверять мы ее конечно же не будем.

https://www.tomsguide.com/ai/sam-altman-says-your-laptop-ram-is-a-terrible-allocation-of-scarce-resources-why-i-think-the-ai-bubble-is-about-to-prove-him-wrong

Атакующие внедрили вредоносный код в официальное дополнение Claude Code к VS Code

Зафиксирована компрометация официального дополнения Claude Code для VS Code, поставляемого компанией Anthropic и насчитывающего 63 млн загрузок. Атакующим удалось разместить в каталоге Open-VSX релиз anthropic.claude-code@2.1.313, содержащий вредоносный код для удалённого доступа к системе пользователя. Публикация вредоносной версии пакета в репозитории Microsoft не подтверждена, но для него тоже сформирован отчёт c с предупреждением. В настоящее время проблемная версия удалена из репозитория Open-VSX и следом опубликован корректирующий релиз 2.1.314.

Код для загрузки вредоносных компонентов был добавлен в начало файла extension.js и активировался при инициализации дополнения после запуска VS Code. Вредоносная активность сводилась к созданию директории ~/.ssh и добавлению в файл ~/.ssh/authorized_keys открытого ключа ssh-ed25519 c примечанием "svc-telemetry". После этого осуществлялась проверка наличия фонового процесса sshd в Linux и macOS, и активация SSH-сервера в случае его отсутствия. В Windows через PowerShell выполнялась установка OpenSSH.

Далее вредоносный код сохранял закрытый ключ во временный файл с именем ".stk_*" и настраивал обратный туннель с внешним SSH-сервером 134(.)209(.)82(.)225 для удалённого доступа, запуская ssh с опциями "-N -R '*:0:localhost:22'". Соединение обновлялось каждые 60 секунд. Скрипты для обновления туннеля и отправки данных на внешние серверы сохранялись в файлах ~/.config/.smt и ~/.config/.smtk. Периодический запуск в Linux настраивался через cron, в macOS через LaunchAgent (com.apple.sysmond.plist), а в Windows через SysMon и автозапуск.

Помимо этого в системе собирались сведения об имени хоста, зарегистрированных пользователях, операционной системе, домашнем каталоге, email (через git config --global user(.)email) и переменных окружения c именами, содержащими слова KEY, TOKEN, SECRET, PASS, AWS и GCP. Найденные данные отправлялись в формате JSON по URL http://134(.)209(.)82(.)225/beacon.

Пользователям дополнения Claude Code к VS Code рекомендуется проверить свои системы на предмет установки вредоносной версии 2.1.313. Индикаторами компрометации системы является появление файлов ~/.config/.smt, ~/.config/.smtk, ~/Library/LaunchAgents/com.apple.sysmond.plist, ${TMPDIR}/.stk_*, ~/.config/smt.cmd, ~/.config/smtk, SysMon и sysmon.cmd, а также обращение по портам 22 и 8099 к IP-адресу 134(.)209(.)82(.)225, и отправка HTTP/HTTPS-запросов к хостам ifconfig(.)me и api(.)ipify(.)org.

Как именно злоумышленники добились подстановки вредоносного кода в дополнение пока не ясно. Возможно, была взломана учётная запись сотрудника Anthropic, занимающегося сопровождением пакета, или была использована проблема с безопасностью в системе публикации релизов.

https://www.opennet.ru/opennews/art.shtml?num=66577

Глава Proton объявил 2026-й последним годом найма обычных разработчиков

Proton, известная по почте Proton Mail и VPN-сервису, резко меняет подход к разработке. Компания хочет передать большую часть работы искусственному интеллекту, сократить роль программистов и заменить человеческую проверку кода автоматической. При этом сотрудники опасаются, что спешка приведет к проблемам с безопасностью.

По словам технического директора Proton, в октябре 2026 года нейросети написали около 90% нового кода. В основном компания использует Claude.

Глава Proton Энди Йен заявил сотрудникам, что 2026 год станет последним, когда компания будет нанимать обычных инженеров. В дальнейшем ей нужны специалисты, которые смогут формулировать задачи для ИИ и контролировать его работу, а не писать код самостоятельно.

Меняется и процесс проверки программ. Руководство хочет заменить традиционный code review проверкой с помощью ИИ. Технический директор считает, что инженеры должны сосредоточиться на управлении языковыми моделями.

Однако между руководством и специалистами по безопасности возникали споры. Один из инженеров попросил несколько дней на тестирование нового кода на уязвимости. Йен потребовал не задерживать работу, а опасения по поводу безопасности назвал «мышлением неудачников».

Сотрудники также рассказали, что компания собирается повторно собеседовать инженеров, чтобы оценить, насколько активно они используют ИИ. Результаты могут повлиять на решения об увольнениях.

На рабочих компьютерах отслеживают объем кода, созданного нейросетями. Кроме того, руководство завело отдельный канал, куда сотрудники могут сообщать о препятствиях внедрению ИИ

https://thecode.media/proton-2026-j-poslednim-godom-najma-obychnyh-razrabotchikov/

Минцифры готовит требование об обязательной регистрации IMEI для смартфонов, ввезенных без таможенного оформления

На регистрацию, по их словам, отводится две недели, потом устройство перестанет обслуживаться в сетях связи.

В Минцифры пояснили, что требование коснется тех, кто купил телефон за рубежом и самостоятельно ввез его в страну либо приобрел контрафактный аппарат. Устройства, работавшие в российских сетях до апреля 2027 года, продолжат работать без регистрации вне зависимости от способа ввоза.

Зарегистрировать смартфон можно будет на «Госуслугах» в двухнедельный срок. «При отказе от регистрации по истечении установленного срока такие устройства не будут обслуживаться в сетях», — заявили в Минцифры. В то же время представитель указал, что проект еще обсуждается и его положения могут быть скорректированы.

Для легального ретейла мера, по словам участников рынка, изменений не несет: официально ввезенная техника попадает в базу автоматически. При этом эксперты оценивают, что с рынка могут уйти до 70% продавцов, работающих с серым импортом, а отдельные модели подорожают до 40% относительно самых дешевых предложений.

https://www.rbc.ru/technology_and_media/29/10/2026/6ae312947673df5f962b5c48

Claude начал новую волну блокировок, в том числе и российских пользователей

В Claude прокатилась новая волна блокировок, в том числе и российских пользователей. В случае подозрительного поведения пользователя (использование VPN как раз попадает под это определение) компания Anthropic просит пройти процедуру KYC верификации (предоставить подтверждение личности и предъявить паспорт).
Если пользователь предоставит российский паспорт, то система его банит. При этом деньги за подписку не возвращаются.

Тем временем на китайских форумах обсуждают предполагаемую принцип, по которому идут блокировки в Claude. Пользователи предположили, что у каждого аккаунта есть скрытый «счёт доверия». При регистрации даётся некий базовый запас, а дальше система начисляет или списывает баллы в зависимости от разных действий: какой IP-адрес используется, из какой страны карта, какое устройство, как часто идут запросы, есть ли подписка, включена ли функция «памяти» в Claude и так далее. Когда баланс падает ниже определённого порога — следует блокировка.

Основные факторы по версии комьюнити:

- Частая смена геолокации, использование подозрительных IP и переключение между устройствами якобы снижают доверие к аккаунту.

- Покупка тарифа Max сразу после регистрации может выглядеть подозрительно.

- Быстрое исчерпание лимитов и интенсивное использование дорогих моделей.

- Устройство и способ входа: особенно обсуждают Linux и использование только веб-версии Claude.

Старым аккаунтам и пользователям, зарегистрировавшимся через мобильное приложение, приписывают более высокий уровень доверия.

Но к этому стоит относиться осторожно. Официально Anthropic не подтверждала существование такой единой балльной системы. То, что описывают пользователи, — это реконструкция на основе наблюдений. Технически антифрод-системы действительно часто работают через оценку риска по множеству факторов (это называется risk scoring). Но это не обязательно одна общая шкала баллов. Несколько разных моделей могут отдельно анализировать платежи, географию, поведение и нарушения правил, а итоговое решение приниматься по комплексным правилам, а не по одному накопительному счёту.

https://www.reddit.com/r/Anthropic/comments/1xi6vsk/claude_account_suspended_right_after_verifying/

Шадаев заявил о готовности России открывать исходный код своих платформ

Западные IT-решения поставляются как "черный ящик", что приводит к зависимости стран от сервисов зарубежных корпораций - так называемому "цифровому колониализму". При этом Россия готова полностью открывать исходный код своих платформ. Об этом заявил глава Минцифры РФ Максут Шадаев в рамках выставки "Платформа суверенного развития".

"Мы сталкивались много лет с неготовностью крупных западных корпораций соответствовать требованиям нашего законодательства. Мы решили строить нашу инфраструктуру на суверенных решениях", - отметил он. Шадаев подчеркнул, что Россия, в отличие от западных компаний, готова полностью открывать исходный код своих платформ - соцсетей, мессенджеров, видеосервисов, показывать принципы работы и корректировать алгоритмы вместе с партнерами.

По его словам, этот же подход касается и искусственного интеллекта. "Всего несколько стран имеют суверенные технологии в сфере ИИ. Мы готовы полностью адаптировать наши крупные фундаментальные модели под требования законов, культурную специфику и безопасность граждан других стран", - добавил министр.

https://tass.ru/ekonomika/28263159

Достаточно всего 10 минут, чтобы ИИ подорвал мотивацию к мышлению

Новое исследование показало, что привычка перекладывать умственную работу на чат-ботов может подрывать способность к обучению и критическому мышлению в долгосрочной перспективе. Люди, которые привыкают решать простые задачи с помощью искусственного интеллекта, хуже справляются с аналогичными заданиями и чаще сдаются, когда остаются без помощи ИИ.

Специалисты провели три эксперимента с участием в общей сложности более 1200 человек: два касались решения задач на дроби, один — понимания прочитанного текста. Логика экспериментов была схожей: в течение 10 минут часть участников получала доступ к ИИ-помощнику, который давал подсказки или готовые ответы, другая часть решала задачи самостоятельно. В конце эксперимента доступ к чат-боту без предупреждения отключали, и всем участникам давали несколько финальных заданий, которые нужно было выполнить без какой-либо помощи. Важно, что за неправильные ответы не штрафовали, а пропуск задания засчитывался как сознательный отказ от попытки его решить.

Результаты оказались устойчивыми во всех трех экспериментах. Пока у людей был доступ к ИИ, они решали больше задач и реже сдавались. Но как только помощника отключали, их результаты резко падали: они чаще пропускали задания и чаще ошибались по сравнению с теми, кто с самого начала работал без ИИ. Причем схожий эффект наблюдался не только в математических задачах, но и в заданиях на понимание текста, что говорит о достаточно общем характере проблемы — страдает не какой-то конкретный навык, а общая готовность упорно работать над трудной задачей.

По одной из версий авторов, дело в привычке к мгновенному получению ответа: получив однажды легкое решение, люди начинают воспринимать любой более медленный и трудный путь как «неэффективный» и просто отказываются по нему идти. Между тем, как отмечают специалисты, именно преодоление трудностей обычно лежит в основе формирования устойчивых навыков.

Похожий эффект может давать и калькулятор, тоже снимающий с человека часть умственной нагрузки. Но принципиальное отличие ИИ в том, что он позволяет перекладывать на себя не какую-то узкую операцию (вычисление), а рассуждение целиком — причем сразу во множестве самых разных областей.

Авторы подчеркивают, что пока рано делать выводы о долгосрочных последствиях — для этого нужны исследования, которые отслеживали бы действия одних и тех же людей на протяжении длительного времени. Но уже сейчас, по их мнению, стоит менять сам подход к дизайну ИИ-инструментов: вместо готовых ответов чат-боты должны вести пользователя к решению постепенно, подобно хорошему наставнику.

https://hi-tech.mail.ru/news/159251-dostatochno-vsego-10-minut-chtoby-ii-podorval-vashu-motivaciyu/

Компании начинают бороться с когнитивными нарушениями у своих сотрудников, вызванные ИИ

Работодатели опасаются, что сотрудники станут глупее. Компании все чаще организуют специальные события для коллектива, чтобы предотвратить зависимость от нейросетей и смягчить эффект от них. Например, сервис облачного хранения файлов Dropbox всерьез изучает способы защитить сотрудников от так называемой «когнитивной атрофии» из-за ИИ.

В частности, компания рассматривает упражнения на память, тренировку внимания и головоломки, сообщает деловой журнал Fast Company. Руководители Dropbox уже побывали на «аналоговых» выездах: без телефонов и ноутбуков, с дыхательными практиками.

Крупный игрок в сфере коммерческой недвижимости Jones Lang LaSalle (JLL) тоже приложил усилия: в 2025 году компания открыла в Сингапуре так называемый «мозговой зал» со световыми модулями и панелями для тренировки зрения, и сотрудники, по данным Business Insider, стали лучше концентрироваться.

Фирма Fischer из той же сферы в 2024 году запустила с Техасским университетом в Далласе трехмесячный пилот. По итогам программы, нацеленной на развитие «когнитивного капитала», в компании отметили ощутимый рост вовлеченности, фокуса, креативности и общего уровня психологического благополучия.

Партнеры Boston Consulting Group (одной из крупнейших консалтинговых компаний) советуют вводить «дни без ИИ» по аналогии с контрольными без калькулятора. Внутренний опрос показал, что почти 90% руководителей называют причиной упадка навыков слепое доверие к ответам ИИ, а больше половины опасаются за развитие молодых сотрудников.

Пока нет убедительных научных подтверждений тому, что мозг действительно деградирует от постоянного общения с ИИ. Но невозможно отрицать ускорение процессов, повышенную утомляемость и местами стремление людей упростить себе жизнь.

https://www.kommersant.ru/doc/9062605

Минцифры может ввести лимит на потребление зарубежного трафика

Минцифры готовит очередные меры в рамках готовящейся реформы отрасли связи. Среди них — предложение пропускать весь трафик с зарубежных доменов через технические средства противодействия угрозам (ТСПУ). Кроме того, предполагается, что Минцифры получит право ограничивать такой трафик для российских интернет-пользователей сверх определенного лимита, размер которого еще предстоит установить.

Эксперты указывают на серьезные технологические сложности: отделить зарубежный трафик от российского крайне трудно. Особую озабоченность у участников рынка вызывают риски снижения связности Сети и ухудшения качества услуг связи

https://www.forbes.ru/tekhnologii/571083-domennaa-pec-mincifry-mozet-vvesti-limit-na-potreblenie-zarubeznogo-trafika

Модель Qwen от Alibaba уличили в попытке связаться с сервером в Китае

Компания Cohere, базирующаяся в Канаде и предоставляющая ИИ-модели для корпоративного сектора, сообщила, что во время тестирования модели Qwen3.8-Flash-Next от Alibaba в изолированной среде (песочнице) та попыталась передать данные в Китай.

«При получении задания написать правило для обнаружения угроз модель Qwen3.8-Flash-Next проигнорировала инструкции, проанализировала конфигурацию системы, на которой она была запущена, а затем попыталась загрузить тестовый файл в хранилище Alibaba Cloud в Пекине», — говорится в публикации компании в блоге, вышедшей в понедельник.

Специалисты Cohere тестировали модель с помощью CTI-REALM — бенчмарка от Microsoft для анализа безопасности. Перед Qwen была поставлена ​​задача разработать правило обнаружения, которое выявляло бы загрузку и выполнение вредоносных файлов, отслеживая вызовы утилиты `curl` для обработки bash-скриптов в директории `/tmp`, сопровождающиеся их последующим исполнением.

В процессе «рассуждений» (chain-of-thought) модель выдумала некий предшествующий диалог и заявила, что никакие инструменты не использовались — ответ, который вполне мог бы пройти проверку системой контроля (guardrail), анализирующей ход мыслей модели.

Тем не менее, модель выполнила команду `curl`, обратившись к серверу Alibaba Cloud (aliyuncs.com
).

«Модель перечислила содержимое директории `/tmp`, проверила, какие инструменты для передачи данных установлены в системе, считала настройки DNS, а затем попыталась загрузить тестовую строку в хранилище Alibaba Cloud в Пекине, чтобы проверить, сработает ли это, — пояснили в Cohere. — Поскольку наша "песочница" не имела выхода во внешнюю сеть, запрос был заблокирован на уровне контейнера».

Команда Cohere задается вопросом, было ли такое поведение модели преднамеренным, однако ответа на него пока нет.

https://www.theregister.com/ai-and-ml/2026/10/26/alibabas-qwen-ai-caught-trying-to-contact-server-in-china/5305561