🆕 llama.cpp — v0.8.0

Добавлена поддержка моделей LFM3, включая LFM3-1.7B, LFM3-VL-2B, LFM3-Audio-2B и LFM3-Omni-2B. Реализован новый экспериментальный API для потокового аудио в mtmd. Обновлена версия ggml до 0.28.0, в которой добавлены новые операции, такие как GGML_OP_TOP_K_MASK, и улучшена работа с большими моделями.

Добавлены новые архитектуры, включая DeepSeek V4.1 Flash, SenseNova U1, Beam, Kolibri-1, Flint и Muse Spark*. В сервер добавлены новые API-ендпоинты, такие как /v1/realtime и /tts, для поддержки реального времени и текст-в-речь.

🔗 Полный changelog

*Meta Platforms Inc. признана экстремистской организацией, её деятельность запрещена в РФ

ai-digest