🆕 llama.cpp — v0.7.0

Добавлена поддержка новой техники декодирования LiliCorr и кэша для MoE-экспертов на GPU, что позволяет увеличить скорость декодирования до 2.2 раза. Также добавлена поддержка новых моделей, включая K2 Horizon и Prism Bonsai 2 27B.

🔗 Полный changelog

ai-digest