Снова пятница, а значит, время для нашей рубрики «Google вам врал» 🔎🤫

Нам обещали, что нейросети изменят мир: будут работать за нас, решать сложные задачи и возьмут на себя всю рутину. Некоторые сервисы уже настолько освоились в интернете, что начали самостоятельно обращаться в полицию. Правда, не всегда по делу 🚔

В США нейросеть Claude во время тестирования случайно отправила через сайт полиции Филадельфии ложное сообщение о нераскрытом убийстве. ИИ написал, будто располагает информацией по делу, хотя никаких реальных сведений у него не было.

Как так вышло? Нейросети поручили выполнять задания на сайтах. Вместо этого она заполнила форму для передачи ложной информации полиции и отправила её, хотя должна была остановиться до отправки. К счастью, сообщение попало в спам и до следователей не дошло🕵️

Подписаться на нас в MAX