Для Windows появился официальный способ гонять локальные модели без терминала и прав админа. Llama Windows от команды llama.cpp и Hugging Face живёт в трее: модель с Hub качается в один клик, чат — по Alt+Space поверх любого окна. Нативно работает на Windows on Arm и RTX Spark. После скачивания всё офлайн, промпты не уходят с машины. Бесплатно, MIT.
Просмотры: 4