LiteRT-LM — это бесплатный высокоскоростной инструмент от Google для запуска больших языковых моделей, таких как Gemma 4, на телефонах, компьютерах, Raspberry Pi и других устройствах.

Поддерживает ускорение через GPU, обработку изображений и звука, а также использование инструментов для создания умных приложений.

Github Community