Claude теперь стучит на вас — Anthropic научила нейросеть самостоятельно проверять переписки.

После каждого ответа ИИ получает скрытую инструкцию и оценивает, не просили ли вы его сделать что-нибудь опасное или запрещённое. Подозрительным диалогам он ставит специальную отметку, чтобы их могли дополнительно проверить.

Штуковина работает в моделях начиная с Fable 5 и охватывает большую часть пользователей.

Вы записаны в тетрадь, пока карандашом 📖