📰 Модель LFM2.5-24B-A2B для быстрого запуска на устройствах

Компания Liquid.ai представила модель LFM2.5-24B-A2B, предназначенную для быстрого запуска на устройствах. Это может быть интересно для разработчиков, работающих с on-device agents.

В комментариях инженеры отмечают, что модель уже имеет квантовую версию от Unsloth, и некоторые пользователи планируют протестировать ее производительность. Также упоминается, что модель показала хуже результаты, чем Qwen 35B A3B, в частном бенчмарке, но может быть быстрее, чем Qwen 9B.

🔗 Статья · Обсуждение

ai-digest