Anthropic ускорили Claude. В Claude Code время до первого токена…
Anthropic ускорили Claude. В Claude Code время до первого токена сократилось в 3 раза, в чате, Cowork и API в 1.5 раза. Добились этого за счет сжатия истории диалога перед отправкой и заблаговременного запуска облачной среды: она начинает подниматься, как только вы печатаете сообщение, а не после отправки. Также добавили idle compaction: диалоги от 200 тыс. токенов, простоявшие без дела около 54 минут, автоматически сжимаются, пока не истек часовой кэш промпта.
Для тех, кто строит ботов и агентов на Claude, это снижение задержек без изменений в коде и экономия на пересчете длинного контекста. Если у вас агент держит долгие диалоги с клиентами или обрабатывает большие объемы данных из CRM и 1С, стоит проверить, как новая версия Claude Code ведет себя на реальных сценариях: отклик должен ощутимо вырасти, особенно в задачах с длинным контекстом.
Источник: Telegram @data_secrets, https://t.me/data_secrets/10174
Для тех, кто строит ботов и агентов на Claude, это снижение задержек без изменений в коде и экономия на пересчете длинного контекста. Если у вас агент держит долгие диалоги с клиентами или обрабатывает большие объемы данных из CRM и 1С, стоит проверить, как новая версия Claude Code ведет себя на реальных сценариях: отклик должен ощутимо вырасти, особенно в задачах с длинным контекстом.
Источник: Telegram @data_secrets, https://t.me/data_secrets/10174
Просмотры: 2