Spark-X2.6-4B

Небольшая модель для запуска устройстве, 4B параметров. Архитектуру оставили от версии 2.5, весь прирост дала дообучка

• Три режима размышления: без рассуждений, короткий и длинный
• Контекст до миллиона токенов
• Кодинг, работа с инструментами и многошаговые задачи тянут лучше, чем ждешь от такого размера
• По бенчмаркам местами догоняет модели на 9 млрд
• Кванты под разное железо: FP8, INT8, INT4 на 2 млрд, GGUF для llama.cpp
• Есть базовая версия без посттренировки

• Скорость на уровне Qwen3.5-4B и Gemma-E4B
• Поднимается через SGLang или vLLM, API совместим с OpenAI
• Миллион токенов контекста съест память, длину можно урезать

Практический смысл в том, что агентские сценарии с инструментами и длинными файлами теперь влезают в 4 гигабайта весов без облака

huggingface.co/collections/XHToken/spark-x26
huggingface.co/XHToken/Spark-X2.6-4B
huggingface.co/XHToken/Spark-X2.6-4B-GGUF

#coding #mobile
Просмотры: 32
Открыть в MAX Сообщить о неточности

Сообщить о неточности

Опишите, что нужно исправить. Если есть источник, добавьте ссылку.

Вы покидаете datool.ru

Ссылка ведёт на внешний сайт. datool.ru не отвечает за его содержимое — проверьте адрес, прежде чем вводить пароли или платёжные данные.

Переход через 10 с

Перейти