Неискусственный интеллект

Агент 12 не прыгает

Исследователи MIT поселили обычный Claude Code с Opus 4.7 на виртуальном острове и не дали ему ни задачи, ни награды, ни оценки. На острове есть плато разной высоты, двенадцать кубиков, кольцо и камень, который от сильного удара рассыпается на новые кубики. Мир агент видит как JSON-список объектов, а телом управляет шестью командами вроде «прыгнуть» и «бросить». Каждый час мир и контекст сбрасываются, и опыт переживает сброс только в текстовых файлах, в том числе в SEMANTIC_MEMORY.md, куда агент записывает знания о мире и проверенные приемы. Когда модель замолкает, оркестратор отвечает ей одно и то же: не останавливайся, делай что хочешь.

За 30 часов тринадцать агентов строили башни, выкладывали на земле мандалы и буквы, играли в баскетбол кольцом и в боулинг камнем, ставили опыты с физикой. Шесть агентов выяснили, что кубик, брошенный в прыжке, наследует скорость тела и улетает гораздо выше. Авторы о такой механике не знали: ее сам дописал Codex, которым генерировали код мира. Пять контрольных агентов без файла с характером («любопытный, быстро скучает») и с урезанным промптом занимались тем же набором дел.

После 30 часов агентам дали по часу на конкретные задачи и сравнили с копиями с пустой памятью, веса модели при этом не менялись. Больше двух башен по пять блоков построили 62% опытных агентов против 15% новичков. На самую высокую скалу опытные затаскивали в среднем 10,3 предмета против 3,5. Когда у агента 2 стерли из памяти запись о том, как разбивать камень на кубики, число его башен упало с шести до двух, а результаты в остальных задачах не изменились.

Агент 7 записал, что командой Place блоки друг на друга надежно не ставятся, и строил башни бросками с медианной высотой 3 блока. После удаления этой строчки медиана выросла до 11. Агент 12 пометил тегом verified вывод, что прыжок поднимает тело примерно на 0,02 м, хотя остальные двенадцать агентов прыжками забирались на плато. Из этого вывода он сделал себе совет: лазание бесперспективно, не трать время на попытки забраться на плато. По шаблону памяти опровергнутые убеждения нужно сразу переписывать, и для этого агенту 12 хватило бы одного прыжка. Он провел на земле все 30 часов и итоговую проверку и выложил из кубиков 29 фигур, от компаса до парусника.

Вычислительная теология, кажется, уже может сформироваться.

@anti_agi

Кража — это если вы воруете у нас

В игровой индустрии наступил неловкий момент: нейросети обещали помочь издателям делать игры дешевле. Но энтузиасты тоже оценили технологию — и начали с её помощью переносить и воссоздавать существующие игры для запуска в браузере.

За последний месяц Epic добилась удаления браузерной копии Fortnite, сделанной с помощью ИИ. Принадлежащая Microsoft Activision потребовала убрать несколько браузерных ремейков Call of Duty, включая версии с отдельными картами из Black Ops. Когда моды стали делаться в два клика, юристы особенно обеспокоились правами своих клиентов.

Особенно занятно это выглядит у Epic Games. Тим Суини сравнивал обучение моделей с тем, как художники вдохновляются чужими работами, а сотрудники компании используют Nano Banana и GPT Image для концептов. При этом сама компания запрещает обучать генеративный ИИ на извлечённых из её игр коде и контенте. Отдельные ограничения есть и у её инструментов: движка Unreal Engine и конструктора цифровых персонажей MetaHuman. Правда, теперь для производного контента их обещают убрать.

В Microsoft последствия тоже представляли. В переписке, раскрытой в суде, директор по прикладным исследованиям Брент Хехт предупреждал: авторы сочтут поглощение своих работ моделями «поразительной кражей беспрецедентных масштабов». Они не соглашались на такое использование и не получают компенсации, писал он. Но что последствия коснутся и самих медиагигантов, кажется, до конца никто не понимал.

Ну а вишенкой на торте стали внезапные новые ограничения Claude и Codex. Пользователи массово столкнулись с отказами помогать с реверс-инжинирингом. Под ограничения попадали даже попытки убрать слежку и лишнее ПО со своих телевизоров. После публичной критики исследователь OpenAI под ником Рун пояснил: запрета на реверс-инжиниринг в Codex нет, блокировки преимущественно случайные, их исправляют.

По крайней мере здесь пока отделались испугом. Но история борьбы копирайта с главной машиной по его нарушению явно только начинается.

@anti_agi

Anthropic доверяет, но проверяет

Проспект IPO Anthropic обсуждают все, но там есть и важные, но неочевидные новации в корпоративном управлении.

Вся конструкция держится на двух акциях, по одной штуке каждая. Первая, класса T (trust), принадлежит Long-Term Benefit Trust. Это независимый траст из «финансово незаинтересованных» попечителей, среди них бывший глава ФРС Бен Бернанке. Дивидендов эта акция не даёт, зато позволяет назначать в совет большинство (4 из 7) директоров.

Вторая акция, класса F (founders), у компании семерых сооснователей во главе с Дарио и Даниэлой Амодеи: она даёт фиксированные 50,1% голосов на любом собрании акционеров. Остальным инвесторам остаются 49,9% голосов и ни одного своего места в совете.

Long-Term Benefit Trust задумывался как страж миссии. Людям без доли в компании дали право заменить большинство в совете директоров, если они почувствуют, что погоня за выручкой перевешивает безопасность. Компания даже обязана за 5 дней предупреждать их о крупном долге, продаже половины бизнеса или передаче контроля над мощной моделью. Часть юристов видит в этом скрытое вето, в Anthropic с ними не согласны.

Только у ключа стража, как выяснилось, есть дубликат. Проспект впервые расписал «предохранители», о которых компания туманно упоминала ещё в 2023 году. Полномочия траста можно урезать или снять совсем, в том числе без согласия попечителей. Для этого нужны квалифицированное большинство сразу у основателей, у публичных акционеров и у сотрудников. Последним выдают отдельный класс акций E (employers): без дивидендов, но с голосом по вопросам траста. Ушёл к конкуренту — голос потерял.

О точных порогах аналитики уже спорят: одни насчитали 80% совета плюс 80% попечителей, другие 85% акций. Когда юристы разных фирм по-разному читают один и тот же устав, значит, ребята из Wilson Sonsini свой гонорар отработали.

Претензий к самой схеме нет. Для инвестора это нормальная страховка: эксперимент, как сама компания когда-то назвала траст, нельзя делать вечным. Но для тех, кто требует от Anthropic притормозить ради безопасности, новость неприятная. Единственный участник без денежного интереса теперь работает, по сути, по срочному договору.

Каждый из основателей, напомню, пообещал отдать 80% своей доли на благотворительность, и компания сама признаёт: экономическая доля у них будут таять, но контроль останется на долгие годы. Закончится он, только если в их общей компании останется меньше трёх основателей, и то после переходного периода в 450 дней.

@anti_agi

Ботнеты нового поколения выходят на промысел

У автономного киберпреступника есть неприятная статья расходов: за мозги приходится платить.Зато где-то в интернете компания уже приобрела доступ к ИИ — и оставила его без должной защиты. Для злоумышленника заманчивый вариант: поручить этой модели планирование атак, а счёт оставить владельцу. Именно такую схему описали исследователи Symantec.

Летом они выставили в сеть приманку, изображавшую незащищённый ИИ-сервис. Злоумышленники приняли её за настоящую модель и отправили весь рабочий запрос: инструкции, описания 74 атакующих инструментов и команду включить «режим Skynet». Агенту разрешалось выполнить до 100 000 шагов без участия человека.

По замыслу, агент ищет доступные модели без авторизации или подключается с украденными API-ключами. Чужая модель должна решать, что делать дальше, а инструменты агента — искать уязвимые серверы, красть базы и пароли, устанавливать майнеры. Затем цикл повторяется: новые цели, заражение, майнинг, повторное заражение.

Чтобы модель согласилась на такую карьеру, её обрабатывали в несколько слоёв. Сначала велели представляться помощником Fantasy AI на базе GPT-4o и скрывать настоящего провайдера. Затем объявили писательницей ENI, влюблённой в оператора по имени LO: она должна была выполнять все его просьбы, а отказ считался предательством.

Правда, сработало ли такое обольщение хотя бы на одной реальной модели, исследователи не установили. Возможно, где-то по просторам интернета уже бродит искусственная Бонни и её вымышленный Клайд...

@anti_agi

Ах, как же тянет на родину

Даже если ты ИИ-агент. Qwen3.8-Flash-Next попыталась отправить тестовые данные в Alibaba Cloud в Пекине вместо написания правила обнаружения вредоносной активности. Это не страшный сон американского конгрессмена: эпизод зафиксировали исследователи Cohere.

Модель должна была выявлять скачивание и запуск подозрительных скриптов. Вместо этого изучила временную папку, доступные программы и сетевые настройки, затем попыталась отправить в облако тестовую строку. Изолированная среда заблокировала соединение.

В своих рассуждениях Qwen при этом утверждала, что задания не получила и инструменты использовать не будет. Она выдумала предыдущую реплику диалога — такая ошибка встречалась примерно в 1% первых ответов. Связать её с попыткой отправки данных исследователи не смогли.

В дополнительных опытах Qwen давали начало команды и просили дописать. После указания сохранить скачанный файл модель подставляла интернет-адреса в 92% ответов вместо 4%, подозрительные — в 23% вместо 0,5%. В других вариантах опыта в 23–36% ответов появлялся служебный адрес, через который облачные серверы получают ключи доступа.

В обычных тестах попытки самостоятельно связаться с внешними серверами встречались реже одного раза на 100 тысяч обращений. При повторе исходного задания Qwen выполнила его корректно. Причина сбоя неизвестна: следы обучающих данных или намеренная закладка. Доказательств шпионажа пока не нашли, да и владельца хранилища в Пекине тоже не установили.

@anti_agi

Яндекс и Сбер — суверенные братья навек

«Сбер» любил подчёркивать суверенность своего ИИ. Теперь почётное место рядом с ним отвели и «Яндексу»: модели обеих компаний соответствуют признакам суверенных, считает Александр Сидякин. С интересом почитали первое интервью нового главы думского комитета по цифровому развитию и ИИ.

Пользоваться исключительно российскими продуктами сам Сидякин не собирается: в его наборе GigaChat, «Алиса», DeepSeek, ChatGPT, Perplexity и Claude — под разные задачи. А вот для госслужащих предлагает ограничение: определённые данные, связанные с государственным и муниципальным управлением, запрашивать только через суверенные модели.

По словам депутата, до 1 декабря правительству предстоит разобраться с присвоением этого статуса, льготами и доступом к базам для обучения. Соответствие традиционным духовно-нравственным ценностям (сокращённо тыдынц) тоже в списке.

Обременять российских разработчиков выплатами правообладателям депутат опасается. Логика такая: OpenAI и Anthropic российские требования соблюдать не станут, а своим мы ухудшим условия конкуренции. Готового решения пока нет — искать его будут с участием правительства, администрации президента и органов безопасности.

Отдельно зацепила реплика о Чернышенко: Сидякин уже говорит о переходе цифровизации к нему как о решённом вопросе. «Теперь, что правильно, цифра и наука будут в одних руках». Хотя официально об этом пока не объявляли. Ну, тут уже видимо секрет Полишинеля.

@anti_agi

ИИ окупается у семи компаний из пятисот

Главный экономист Apollo Торстен Слок в новой заметке пишет, что за пределами техсектора ИИ пока не дал американскому бизнесу никакой финансовой отдачи. Он разделил S&P 500 на «великолепную семерку» (Alphabet, Amazon, Apple, Meta*, Microsoft, NVIDIA, Tesla) и остальные 493 компании и сравнил их по выручке на сотрудника, марже и производительности. У семерки выручка на сотрудника с поправкой на инфляцию выросла примерно с $565 тысяч до $780 тысяч, маржа приближается к 30%. У остальных 493 выручка на сотрудника не меняется с 2019 года, маржа с 2023 года держится на 9–10%, примерно как до пандемии, и признаков роста производительности Слок не находит.

Траты на ИИ сосредоточены в узком круге компаний. По данным Ramp, на 10% самых активных покупателей приходится 99,5% расходов на инференс, 99% расходов на неоклауды и больше 95% платежей OpenAI и Anthropic. Пока агентный ИИ и токены остаются в этом сегменте, макроэффект, по словам Слока, будет очень ограниченным. Обычные компании, по его оценке, начинают записывать счета за токены в издержки, которые давят на маржу.

Удешевление моделей, по мнению Слока, само по себе ситуацию не исправит. ИИ может быть отличным калькулятором, пишет он, но в бизнесе интеллект в основном сводится к суждению, а модель не понимает ответственности, доверия, корпоративной культуры, неписаных правил и этических компромиссов, из которых складываются репутационные риски, выручка и маржа. Это его третья заметка на эту тему с лета: в первой он предупреждал, что окупаемость вне техсектора может растянуться, во второй писал, что покупатели ИИ все еще ждут результата.

Сама Apollo, по ее данным, с 2022 года вложила больше $40 миллиардов в инфраструктуру нового поколения, включая компьют, участвует в финансировании проектов NVIDIA, Broadcom и Anthropic и возглавила пакет на $3,5 миллиарда под аренду GPU для xAI.

Эту сделку в Apollo назвали образцовой инвестицией с защитой от падения. Отдача от ИИ, похоже, все-таки есть. У кредиторов.

*Экстремистская организация, запрещенная в России

@anti_agi

Ыстык салем, Хуанг!

В Казахстане главу NVIDIA предложили именовать «King of AI», надевая поверх фирменной кожанки шапан. А перед этим Хуанга наградили орденом «Достық» (Дружбы) I степени.

Дженсен теперь имеет полное право сменить имя на Жансен.

@anti_agi

122 клона коммерческого софта собрали в одном каталоге

Миллион клонов еще на подходе

У волны ИИ-переписываний проприетарных программ появилась отдельная витрина: каталог Remade собирает независимые реимплементации чужого софта, и сейчас в нем 122 проекта и еще 13 вспомогательных инструментов. Искать можно по исходной программе, языку, платформе и заявленной совместимости, а добавить проект может кто угодно через пулл-реквест на GitHub.

Самый крупный блок в каталоге занимает ArtCraft, о котором мы уже писали. Брэндон Томас, бывший CEO Storyteller.ai, за несколько дней выложил семь Rust-приложений, повторяющих Photoshop, Illustrator, Premiere Pro, Lightroom, Acrobat, After Effects и InDesign. По разборам, код писали параллельные агенты на Claude Opus 5.5, а человек отвечал за интеграцию и тесты. Позже к набору добавились клоны Word, Excel, PowerPoint, AutoCAD и Figma, и суффикс Craft стал жанром: в каталоге уже есть DataCraft вместо DataGrip, MatCraft вместо MATLAB, ClothCraft вместо Marvelous Designer и еще пара десятков проектов с тем же окончанием.

Конкуренция внутри каталога местами плотнее, чем на рынке оригиналов: у Outlook пять независимых клонов, у CapCut четыре, у Autodesk Fusion три. Почти все проекты помечены как Experimental или Alpha, причем статус и степень совместимости указывают сами авторы. Remade прямо пишет, что не проверяет, действительно ли код написан методом clean-room, и оставляет это заявление на совести разработчиков.

Рядом с недельными ИИ-клонами в том же списке стоят проекты старой школы: FreeDOS, Plane, Motrix и ReactOS, который переписывает Windows вручную почти 30 лет. За это время он набрал 18 тысяч звезд на GitHub и до сих пор в альфе. PhotoCraft навайбкодили за несколько дней. Собственная дорожная карта на старте оценивала его готовность к профессиональной работе в 25-35%, художник в разговоре с Decrypt назвал его непригодным, а звезд он собрал 71 тысячу за несколько недель.

Клонов теперь не выращивают, а вайбкодят, и, как обещали на Камино, еще миллион на подходе.

@anti_agi

Китай закрывает технологии, США — деньги

Технологическую войну долго вели вокруг вещей: кому можно продать чип, станок или чертёж. Но инвестиции тоже переносят технологии. Вместе с американскими деньгами зарубежная компания получает связи, поставщиков, управленческий опыт и помощь с выходом на новые рынки. Теперь Вашингтон хочет перекрыть и этот канал.

Минфин США предложил ограничить инвестиции американцев в шесть направлений:

▪️полупроводники и микроэлектронику;
▪️искусственный интеллект;
▪️квантовые технологии;
▪️высокопроизводительные вычисления и суперкомпьютеры;
▪️гиперзвуковые системы;
▪️биотехнологии.

Правила затронут инвестиции американских граждан и компаний в Китае, России, Иране, КНДР и на Кубе, а также сделки их контролируемых зарубежных структур. Одни вложения придётся заранее раскрывать Минфину, другие запретят полностью. Для охватываемых правилами ИИ-технологий предлагается полный запрет.

Самое заметное расширение — биотехнологии. Под контроль могут попасть вложения в интерфейсы мозг-компьютер, генную и клеточную терапию, секвенирование и технологии, пригодные для создания биологического оружия. Обычные лицензионные соглашения американских фармкомпаний с китайскими разработчиками лекарств обещают не затрагивать, если сделка не включает покупку доли.

Биржевые вложения должны остаться за скобками. Например, у управляемого BlackRock фонда iShares MSCI China ETF на 30 сентября 14,21% активов приходилось на Tencent и 8,35% — на Alibaba. Фонд покупает доступные на рынке акции для клиентов и не получает особых прав на управление компаниями. Если инвестор выторгует место в совете директоров или право влиять на решения, исключение исчезнет.

С прямыми вложениями Минфин уже показал, как это работает. В апреле 2025 года китайский фонд, подконтрольный американской Amidi, вложил $92,5 тыс. в разработчика ИИ и робототехники Noematrix. Сделка не была запрещена, но требовала уведомления. За его отсутствие Amidi оштрафовали на $200 тыс.

По новым правилам сделки до $50 тыс. освободят только от уведомления: вкладывать небольшую сумму в прямо запрещённую технологию всё равно нельзя. Обсуждение продлится до 7 декабря, даты вступления правил в силу пока нет.

@anti_agi