TurboFieldfare — open-source инференс движок для Gemma 4 26B-A4B 4-bit.

Движок использует всего 2gb ram при размере модели 14gb. Проект написан на Swift/Metal и запускается на любом MacBook с M-процессором, даже на M1 Air.

Github Community