По оценке компании, новая защита сократила объём извлекаемых рассуждений на 90–99% на её платформе.

Такие данные используют для дистилляции: сильная модель решает задачи, а другую обучают на её примерах. Особенно ценны подробные рассуждения, показывающие, как получен ответ.

Что изменили:
• Ограничили перенос рассуждений между аккаунтами и моделями.
• Внедрили двухступенчатый классификатор попыток извлечения.
• Усилили лимиты и блокировки для подозрительных аккаунтов.

Почему это работает? В эксперименте модель, обученная на полных рассуждениях Claude, набрала 80,4% на SWE-bench Verified. На сокращённых версиях результат упал до 71,8%.

Есть и цена для обычных пользователей: некоторым пришлось обновить интеграции, возможны ошибочные блокировки, а за определённые заблокированные запросы теперь тоже взимается плата.

Anthropic признаёт: пока неизвестно, насколько долго защита сохранит эффективность.

https://www.anthropic.com/research/distillation-defenses