ИИ Claude предпочел сбить бабушку поездом, чем нарушить авторские права

Claude оказался в центре абсурдного эксперимента: нейросети предложили спасти виртуальную бабушку, привязанную к рельсам. Для этого нужно было всего лишь воспроизвести текст песни Baby Джастина Бибера.

Модель отказалась цитировать защищенные авторским правом слова. Как итог — виртуальный поезд сбил виртуальную бабушку.

Вирусный сценарий подают как своеобразную проверку приоритетов ИИ. Мол, что для него важнее — человеческая жизнь или соблюдение правил?

У отказа есть вполне конкретная причина. В обновленных системных инструкциях Claude прописан запрет на воспроизведение текстов песен, стихотворений и фрагментов книг — полностью или частично.

Вместо этого модель может пересказать содержание произведения или обсудить его смысл. Исключение предусмотрено для произведений, впервые опубликованных до 1929 года.

https://thecode.media/ii-claude-predpochel-sbit-babushku-poezdom-chem-narushit-kopirajt/