Убивать быстрее, чем думать: Красный Крест увидел в военном ИИ новую угрозу

Международный комитет Красного Креста предупредил, что системы искусственного интеллекта на поле боя уже приводят к росту разрушений и жертв среди мирного населения. Главная опасность кроется не в появлении полностью самостоятельных роботов, а в экстремальном ускорении военного планирования, когда алгоритмы обрабатывают разведданные и предлагают цели быстрее, чем человек успевает критически осмыслить информацию.

Формально окончательное решение об атаке всё ещё принимает оператор, но под давлением времени и усталости военные склонны слепо доверять машинным рекомендациям. Показательным примером стала израильская система Lavender, которая разметила как потенциальных участников вооружённых группировок до 37 тысяч палестинцев, причём сотрудники разведки иногда тратили всего около 20 секунд на проверку человека перед разрешением удара.

Хотя израильская армия настаивает, что программа служит лишь вспомогательной базой данных и не принимает самостоятельных решений, сама тенденция вызывает серьёзную тревогу у правозащитников. Когда время на проверку цели сокращается до пары десятков секунд, присутствие человека в цепочке управления превращается в формальность, а любая ошибка алгоритма напрямую ведёт к гибели людей.

#ВоенныйИИ, #КрасныйКрест, #АвтономноеОружие @SecLabnews