Это нейросеть на 80 миллиардов параметров, обученная с нуля на 18 триллионах токенов.
Главное преимущество — высокая скорость и экономия ресурсов: при ответе на запрос активируется всего ~3 млрд параметров, что делает модель доступной для вычислений без потери качества.
«В математике, программировании и других задачах на рассуждения модель показывает результаты на уровне более крупных опенсорс-моделей, а особенно сильна в задачах на фактические знания на русском языке», — отметили разработчики.
📌 Параметры модели опубликованны в свободном доступе.
Любой российский разработчик сможет использовать её как основу для своих сервисов.
Модель станет технологическим фундаментом для нового поколения сервисов: на ее базе будут создавать системы, способные к логическому рассуждению и автономному выполнению сложных цепочек действий.