🚨 Moonshot AI выложила Kimi K3 на Hugging Face — 2,8 ТРИЛЛИОНА параметров в открытых весах.

Это первая open-weight модель класса ~3T. При этом благодаря MoE на каждом токене активируется 104 млрд параметров: 16 экспертов из 896. (Hugging Face)

Что внутри:

— контекст 1 048 576 токенов  
— нативная работа с текстом и изображениями  
— новая Kimi Delta Attention (KDA)  
— Attention Residuals  
— 93 слоя: 69 KDA + 24 Gated MLA  
— MXFP4-веса + MXFP8-активации  
— заявлено примерно 2,5× более эффективное масштабирование, чем у Kimi K2. (Hugging Face)

K3 заточена под долгие агентные задачи: работу с огромными репозиториями, терминалом, исследования, оптимизацию GPU-ядер, компиляторы и другие многошаговые инженерные сценарии. (Hugging Face)

Moonshot действительно опубликовала полные веса модели, а не ограничилась API. (Hugging Face)

https://huggingface.co/moonshotai/Kimi-K3