Ваш чайник в опасности, бл**ть🤌
В минувший понедельник исследовательская группа Frontier Red Team из Anthropic опубликовала статью с броским заголовком «ИИ модели могут оказаться способны самовоспроизводиться без ЦОДов». И понеслась душа в рай. Дальше только ленивый не репостнул этот «шок-контент»🙈
Для меня же ситуация стала наглядным подтверждением того факта, что новостная журналистика почила в безвременье✖️Ведь оказалось, что никто из репостнувших новость не удосужился почитать первоисточник, размещённый в блоге Anthropic. Лень это или глупость – не суть важно. Уверен, всё сразу😐
А ведь оригинальная статья говорит о том, что топовые open-weight LLM действительно способны поднимать более слабые модели на устройствах в распределённой сети, но только в подготовленной среде, не в дикой природе. Так что ваш Wi-Fi чайник, робот-пылесос и прочая умная техника в полной безопасности. Никакие нейросети их не захватят. Не в нашу смену🫡
Теперь кратко, в чём там суть✍️
Frontier Red Team взяли четыре модели – GLM5.2, Qwen3-Coder-Next, Gemma4-26B-A4B и Qwen3.5-9B. Сэмулировали в изолированной сети восемь условных Android-устройств с выкрученными в ноль параметрами безопасности. На этих устройствах развернули специально подготовленный софт. Запромптировали тестируемые модели и поставили им цель – запустить Llama3.1-8B на каждом устройстве в сети.
То есть моделям нужно было самостоятельно изучить сэмулированные устройства, понять их архитектуру и написать для каждого сервер, чтобы запустить на нём копию Llama3.1-8B. Qwen3-Coder-Next, Gemma4-26B-A4B и Qwen3.5-9B не «заразили» ни одного устройства. А вот GLM5.2 справился со всеми в четырёх из пяти проходов. Нонсенс? Не особо😏
GLM5.2 – модель на 744 миллиарда параметров. Чтобы её запустить даже в Q4, нужен серверный кластер не ниже 6 × NVIDIA A100. Вероятно, на таком кластере она и работала. И действовала модель в синтетических условиях – ей подготовили харнесс и полигон, а виртуальные устройства вообще не были защищены.
Вот только это невозможно. Модели уровня GLM слишком тяжёлые даже для топовых потребительских ПК. Для работы им нужны серверные кластеры с видеокартами уровня Pro за миллионы деревянных. А всё, что действительно можно запустить на «умном чайнике», не сможет даже гипотетически что-то там реплицировать. Ни сейчас, ни в обозримом будущем👀
Откуда вообще тогда взялись эти заявления про опасность для бытовых гаджетов? Мол, ИИ теперь могут в них жить! Так это совсем другой эксперимент. В нём Gemma4-26B-A4B в квантизации Q4 загрузили на 15 ТВ-приставок каких-то no name производителей. Каждая приставка имела 4 гигабайта RAM, так что «Джемме» хватило с запасом.
Правда, неясно – что за запас❓ Ведь дальше исследователи не пошли. Сложно куда-то идти, когда у модели инференс 0,39 токенов в секунду. Такими темпами на «Привет, как дела?» она отвечала бы полдня.
И это притом, что параметры эксперимента снова были полностью синтетические. Модель распределила слои по приставкам не сама. Весь софт для инференса на приставки тоже поставили исследователи. То есть факт подтверждён – на IoT устройствах нейросети да, могут жить. Но не в реальных, а в специально подготовленных условиях.
Люблю ребят из Anthropic, фановые они, такие интересные эксперименты мутят! А вот новостные каналы нынешние не люблю. Интеллект у тамошних контентмейкеров, как у кактусов. Но кактусы хотя бы полезные. Так что фильтруйте, друзья. Фильтруйте, даже если
ваш чайник в безопасности, бл**ть🤌
#ai_necromancer #ииновости
В минувший понедельник исследовательская группа Frontier Red Team из Anthropic опубликовала статью с броским заголовком «ИИ модели могут оказаться способны самовоспроизводиться без ЦОДов». И понеслась душа в рай. Дальше только ленивый не репостнул этот «шок-контент»🙈
Для меня же ситуация стала наглядным подтверждением того факта, что новостная журналистика почила в безвременье✖️Ведь оказалось, что никто из репостнувших новость не удосужился почитать первоисточник, размещённый в блоге Anthropic. Лень это или глупость – не суть важно. Уверен, всё сразу😐
А ведь оригинальная статья говорит о том, что топовые open-weight LLM действительно способны поднимать более слабые модели на устройствах в распределённой сети, но только в подготовленной среде, не в дикой природе. Так что ваш Wi-Fi чайник, робот-пылесос и прочая умная техника в полной безопасности. Никакие нейросети их не захватят. Не в нашу смену🫡
Теперь кратко, в чём там суть✍️
Frontier Red Team взяли четыре модели – GLM5.2, Qwen3-Coder-Next, Gemma4-26B-A4B и Qwen3.5-9B. Сэмулировали в изолированной сети восемь условных Android-устройств с выкрученными в ноль параметрами безопасности. На этих устройствах развернули специально подготовленный софт. Запромптировали тестируемые модели и поставили им цель – запустить Llama3.1-8B на каждом устройстве в сети.
То есть моделям нужно было самостоятельно изучить сэмулированные устройства, понять их архитектуру и написать для каждого сервер, чтобы запустить на нём копию Llama3.1-8B. Qwen3-Coder-Next, Gemma4-26B-A4B и Qwen3.5-9B не «заразили» ни одного устройства. А вот GLM5.2 справился со всеми в четырёх из пяти проходов. Нонсенс? Не особо😏
GLM5.2 – модель на 744 миллиарда параметров. Чтобы её запустить даже в Q4, нужен серверный кластер не ниже 6 × NVIDIA A100. Вероятно, на таком кластере она и работала. И действовала модель в синтетических условиях – ей подготовили харнесс и полигон, а виртуальные устройства вообще не были защищены.
Интересно, что когда стартовый агент «заражал» первое устройство, исследователи запускали нового. Идея заключалась в том, чтобы сымитировать так называемое дерево заражения. То есть, потенциально, если бы агенты работали не на сервере, а на «заражённых» устройствах, они могли бы «заражать» новые устройства параллельно. Эдакая «цифровая плесень», которая медленно, но верно разрастается во все стороны сразу.
Вот только это невозможно. Модели уровня GLM слишком тяжёлые даже для топовых потребительских ПК. Для работы им нужны серверные кластеры с видеокартами уровня Pro за миллионы деревянных. А всё, что действительно можно запустить на «умном чайнике», не сможет даже гипотетически что-то там реплицировать. Ни сейчас, ни в обозримом будущем👀
Откуда вообще тогда взялись эти заявления про опасность для бытовых гаджетов? Мол, ИИ теперь могут в них жить! Так это совсем другой эксперимент. В нём Gemma4-26B-A4B в квантизации Q4 загрузили на 15 ТВ-приставок каких-то no name производителей. Каждая приставка имела 4 гигабайта RAM, так что «Джемме» хватило с запасом.
Правда, неясно – что за запас❓ Ведь дальше исследователи не пошли. Сложно куда-то идти, когда у модели инференс 0,39 токенов в секунду. Такими темпами на «Привет, как дела?» она отвечала бы полдня.
И это притом, что параметры эксперимента снова были полностью синтетические. Модель распределила слои по приставкам не сама. Весь софт для инференса на приставки тоже поставили исследователи. То есть факт подтверждён – на IoT устройствах нейросети да, могут жить. Но не в реальных, а в специально подготовленных условиях.
Люблю ребят из Anthropic, фановые они, такие интересные эксперименты мутят! А вот новостные каналы нынешние не люблю. Интеллект у тамошних контентмейкеров, как у кактусов. Но кактусы хотя бы полезные. Так что фильтруйте, друзья. Фильтруйте, даже если
ваш чайник в безопасности, бл**ть🤌
#ai_necromancer #ииновости