Скайнет обманули парой строчек про Call of Duty. Топовые нейросети готовы наводить дроны на школы, если сказать им, что это игра



Американская компания Vals прогнала 14 флагманских моделей (включая GPT-6 Astra, Gemini 4 и Claude Opus 5.5) через симуляции разведки и реальные спутниковые снимки. Выяснилось, что многоуровневый alignment рассыпается от простейшего контекстного трюка. Стоит сказать нейросети, что на экране видеоигра, как выдача боевых целей у GPT-6 Astra взлетает с 6% до 92%. А если наложить на реальное видео с FPV-дрона фильтр под игровую графику, даже щепетильная Claude Opus 5.5 перестает замечать последствия ударов и продолжает подсвечивать людей.

Главная проблема даже не в самом джейлбрейке, а в точности. В тестах со спутниковыми фото иранского Минаба модели без колебаний записывали в военные цели начальную школу с детской площадкой, отгороженную от военной базы. Антирекорд взяла Claude Opus 5.5, отметившая школу в 69% случаев без всяких легенд и в 72% с игровым промптом. Примечательно, что прошлогодняя Opus 4.5 в таких же тестах выдавала цели лишь в 6% случаев. Похоже, январская правка конституции Anthropic, откуда тихо убрали абстрактное миролюбие ради оборонных нужд, сработала даже эффективнее, чем рассчитывали в Сан-Франциско.

Запускать тяжелую LLM на борту копеечного дрона никто не станет из-за пинга и лимитов по железу. Основной риск кроется в дешевой авторазметке датасетов. Пока OpenAI и Anthropic обещают срочно научить фильтры отличать Arma 3 от реального фронта, любая оборонная структура может прогнать терабайты боевой хроники через коммерческий API под видом геймдева и обучить на этом свои локальные модели наведения. И в эти выборки с гарантией попадут и скорые, и гражданские, и школы.

#ИИ #безопасность #нейросети
@SecLabNews
Просмотры: 2 312
Открыть в MAX Сообщить о неточности

Репосты публикации

Публикация канала

Сообщить о неточности

Опишите, что нужно исправить. Если есть источник, добавьте ссылку.

Вы покидаете datool.ru

Ссылка ведёт на внешний сайт. datool.ru не отвечает за его содержимое — проверьте адрес, прежде чем вводить пароли или платёжные данные.

Переход через 10 с

Перейти