Восстание машин все ближе? ИИ хотят «выключать» при риске массовой гибели людей

Пока нейросети становятся все умнее, для них уже готовят судебный «стоп-кран». Компания Anthropic продвигает в Конгрессе США инициативу, которая позволит через суд блокировать выпуск и использование передовых ИИ-моделей, пишет Politico со ссылкой на источники. Но одного страха перед восстанием машин будет недостаточно — потребуются доказательства, что система создает неизбежный риск ущерба минимум на $1 млрд либо гибели или серьезного травмирования более 50 человек.

Под судебный запрет могут попасть модели, угроза от которых связана с созданием или применением биологического оружия, выходом из-под контроля разработчика или кибератакой. Одним «рубильником» инициатива не ограничивается: разработчиков хотят обязать внедрять внутренние системы контроля безопасности, публиковать отчеты о новых моделях, защищать сотрудников от преследования и докладывать Минторгу США о серьезных сбоях.