CodeCamp

Внуки все равно нам не поверят

Anthropic изучила безопасность ИИ с помощью разработки Яндекса — исследователи воспроизвели подход Petals, придуманный в компании, и запустили нейросеть на 26 млрд параметров на 15 ТВ-приставках

Создатели Claude хотели понять, как защищаться от потенциальных рисков при использовании ИИ. Для эксперимента большую модель нужно было запустить на слабом железе, и тут пригодился Petals. Модель делится на части, каждую считает своё устройство, а мощный сервер не нужен. Gemma 4 разложили на 15 Android ТВ-приставок, и она заработала. 

Petals сделали в Яндексе вместе с ВШЭ и зарубежными партнёрами. С ним большие модели могут запускать даже лабы и стартапы без дорогой инфраструктуры. Код открыт, работы представляли на NeurIPS и ACL, а ссылались на Petals уже в Калифорнийском университете и Цинхуа.

Вот это я понимаю, бюджетный дата-центр

Вайбкодеры сгорели при попытке добыть огонь

ИИ неожиданно создал тысячу новых рабочих мест — банку в Америке пришлось экстренно нанять программистов из-за Anthropic

Дело в том, что в Bank of America запустили несколько ИИ-проектов, чтобы все оптимизировать и сэкономить. Но по факту Mythos обнаружила КУЧУ уязвимостей в программном обеспечении банка.

Чтобы оперативно закрыть дыры, компания привлекла аж 1000 внешних подрядчиков в дополнение к 3000 штатных специалистов. По итогу расходы на устранение проблем с ПО достигли сотен миллионов долларов за квартал.

Просчитались, но где.

Сканеры штрихкодов оказались глобальной дырой в безопасности маркетплейсов по всему миру — «Лаборатория Касперского» нашла уязвимости, через которые хакеры могут добраться до критически важных систем целых складов

Слабое место находится в канале связи между беспроводными сканерами штрихкодов и базовой станцией — в популярных моделях часто отсутствует аутентификация. Поэтому через Bluetooth хакеры способны отправлять команды на складской компьютер, а затем пробраться в управление логистикой.

В результате товары могут уехать не по адресу, а конвейеры — полностью остановиться. Под угрозой еще личная информация покупателей. В худшем случае одна атака обернётся задержкой сотен тысяч заказов и миллионными убытками

Эксперты рекомендуют отделять складские сети от остальных систем, отключать ненужный Bluetooth и обязательно проверять подлинность подключаемых устройств.

«Я инженер Meta*, и мне ещё никогда не было так некомфортно работать», — сеньор разработчик пожаловался на новую реальность.

По его словам, из-за ИИ код все больше напоминает черный ящик: нейросети генерируют его настолько быстро, что проверять каждую строчку становится практически невозможно. В итоге все создают то, что сами не до конца понимают. И это уже стало нормой.

«Раньше я привык понимать то, что создаю. Теперь пытаюсь разобраться, насколько глубоко мне вообще нужно в этом шарить».

В комментариях к посту другие работяги с ним согласились и даже назвали происходящее архитектурным кризисом, который скоро даст о себе знать.

* запрещенная в РФ организация.