Spark-X2.6-4B
Небольшая модель для запуска устройстве, 4B параметров. Архитектуру оставили от версии 2.5, весь прирост дала дообучка
• Три режима размышления: без рассуждений, короткий и длинный
• Контекст до миллиона токенов
• Кодинг, работа с инструментами и многошаговые задачи тянут лучше, чем ждешь от такого размера
• По бенчмаркам местами догоняет модели на 9 млрд
• Кванты под разное железо: FP8, INT8, INT4 на 2 млрд, GGUF для llama.cpp
• Есть базовая версия без посттренировки
• Скорость на уровне Qwen3.5-4B и Gemma-E4B
• Поднимается через SGLang или vLLM, API совместим с OpenAI
• Миллион токенов контекста съест память, длину можно урезать
Практический смысл в том, что агентские сценарии с инструментами и длинными файлами теперь влезают в 4 гигабайта весов без облака
huggingface.co/collections/XHToken/spark-x26
huggingface.co/XHToken/Spark-X2.6-4B
huggingface.co/XHToken/Spark-X2.6-4B-GGUF
#coding #mobile
Небольшая модель для запуска устройстве, 4B параметров. Архитектуру оставили от версии 2.5, весь прирост дала дообучка
• Три режима размышления: без рассуждений, короткий и длинный
• Контекст до миллиона токенов
• Кодинг, работа с инструментами и многошаговые задачи тянут лучше, чем ждешь от такого размера
• По бенчмаркам местами догоняет модели на 9 млрд
• Кванты под разное железо: FP8, INT8, INT4 на 2 млрд, GGUF для llama.cpp
• Есть базовая версия без посттренировки
• Скорость на уровне Qwen3.5-4B и Gemma-E4B
• Поднимается через SGLang или vLLM, API совместим с OpenAI
• Миллион токенов контекста съест память, длину можно урезать
Практический смысл в том, что агентские сценарии с инструментами и длинными файлами теперь влезают в 4 гигабайта весов без облака
huggingface.co/collections/XHToken/spark-x26
huggingface.co/XHToken/Spark-X2.6-4B
huggingface.co/XHToken/Spark-X2.6-4B-GGUF
#coding #mobile