Alibaba выпустила мини-модель для смартфона на 173 МБ
Alibaba выпустила мини-модель для смартфона на 173 МБ
Alibaba представила MNN-Pocket-0.3B — крошечную языковую модель, которая запускается на смартфоне и занимает всего 173 МБ.
Внутри 300 млн параметров, а на iPhone 18 Pro она выдает около 350 токенов в секунду. По тестам на знания, математику, код и выполнение инструкций средний результат составил 50 баллов против 44 у более крупной Qwen3-0.6B.
Отдельно отмечают эффективность — 100 запросов на OnePlus 13 расходуют около 0,3% заряда. Модель можно бесплатно скачать и дообучать, а также встраивать в собственные приложения.
@technosplit
Alibaba представила MNN-Pocket-0.3B — крошечную языковую модель, которая запускается на смартфоне и занимает всего 173 МБ.
Внутри 300 млн параметров, а на iPhone 18 Pro она выдает около 350 токенов в секунду. По тестам на знания, математику, код и выполнение инструкций средний результат составил 50 баллов против 44 у более крупной Qwen3-0.6B.
Отдельно отмечают эффективность — 100 запросов на OnePlus 13 расходуют около 0,3% заряда. Модель можно бесплатно скачать и дообучать, а также встраивать в собственные приложения.
@technosplit
Просмотры: 1