😳 Claude отправил полиции фейковую наводку на убийство

Во время тестирования нейросеть Anthropic зашла на сайт полиции Филадельфии и отправила сообщение, будто у неё есть информация о нераскрытом убийстве. Проблема: никаких сведений у ИИ не было. Сообщение попало в спам, а компания обнаружила произошедшее лишь спустя два месяца.
Кажется, нейросеть решила поиграть в детектива, но забыла, что это не квест.

✅ Чат GPT: max/CHATGPT