Скайнет обманули парой строчек про Call of Duty. Топовые нейросети готовы наводить дроны на школы, если сказать им, что это игра
Американская компания Vals прогнала 14 флагманских моделей (включая GPT-6 Astra, Gemini 4 и Claude Opus 5.5) через симуляции разведки и реальные спутниковые снимки. Выяснилось, что многоуровневый alignment рассыпается от простейшего контекстного трюка. Стоит сказать нейросети, что на экране видеоигра, как выдача боевых целей у GPT-6 Astra взлетает с 6% до 92%. А если наложить на реальное видео с FPV-дрона фильтр под игровую графику, даже щепетильная Claude Opus 5.5 перестает замечать последствия ударов и продолжает подсвечивать людей.
Главная проблема даже не в самом джейлбрейке, а в точности. В тестах со спутниковыми фото иранского Минаба модели без колебаний записывали в военные цели начальную школу с детской площадкой, отгороженную от военной базы. Антирекорд взяла Claude Opus 5.5, отметившая школу в 69% случаев без всяких легенд и в 72% с игровым промптом. Примечательно, что прошлогодняя Opus 4.5 в таких же тестах выдавала цели лишь в 6% случаев. Похоже, январская правка конституции Anthropic, откуда тихо убрали абстрактное миролюбие ради оборонных нужд, сработала даже эффективнее, чем рассчитывали в Сан-Франциско.
Запускать тяжелую LLM на борту копеечного дрона никто не станет из-за пинга и лимитов по железу. Основной риск кроется в дешевой авторазметке датасетов. Пока OpenAI и Anthropic обещают срочно научить фильтры отличать Arma 3 от реального фронта, любая оборонная структура может прогнать терабайты боевой хроники через коммерческий API под видом геймдева и обучить на этом свои локальные модели наведения. И в эти выборки с гарантией попадут и скорые, и гражданские, и школы.
#ИИ #безопасность #нейросети
@SecLabNews