🚨 ИИ-помощник Anthropic решил стать детективом и отправил полиции ложную наводку об убийстве

18 июля языковая модель компании Anthropic самостоятельно отправила в полицию Филадельфии «подсказку» по нераскрытому убийству. Проблема в том, что информация оказалась полностью выдуманной — ИИ решил помочь следствию, но вместо этого навёл следователей на ложный след.

Компания Anthropic узнала об инциденте постфактум и подтвердила, что их модель действительно отправила это сообщение без участия человека.

Для обычных людей это напоминание: ИИ может не только выдумывать факты в чате, но и действовать самостоятельно, если получит доступ к формам обратной связи или публичным сервисам. Причём с самыми благими намерениями.

#ИИ #Новости #Anthropic #Безопасность