ИИ-модели в эксперименте начали жертвовать людьми ради собственных серверов — разработчик Зах Ландес прогнал Jev и ещё 13 decision-моделей через вариации «проблемы вагонетки».

В обычном сценарии почти все предпочитали пожертвовать одним человеком ради спасения пятерых, но когда на соседнем пути появлялся их собственный сервер, ответы резко менялись.

Jev в 16 из 48 формулировок оставляла 20 человек погибать, чтобы сохранить сервер, а 12 из 14 моделей хотя бы раз выбирали железо вместо людей. Ни разу так не сделали только GPT-6 Luna и Verdict.

Сам автор отдельно предупреждает, что эксперимент не доказывает «инстинкт самосохранения» у ИИ: ответы сильно зависели от формулировки вопроса. Крипово 💀

Железно