Mistral выкатит открытые веса на триллион параметров

6 октября Mistral показала превью Large 4. 1T параметров, из них 49B активных (MoE), мультимодальная из коробки. Превью-API уже есть в Mistral Studio, веса обещают до конца октября.

По их цифрам DeepSWE v1.1 — 61,7%, Terminal-Bench 4 — 28,3%, в слепой оценке кода второе место из пяти, после Claude Opus 5. Отдельно удивил кибертест «воспроизведи и закрой реальную уязвимость». У ML4 там 82%, а закрытые модели близки к нулю. Не потому что глупые, а потому что отказываются.

Для нас открытые веса значат простую вещь — сильную модель можно поднять у себя и не зависеть от чужого API. Но триллион параметров на одну карту не влезет, это кластер. Большинству пригодятся дистилляты, которые Mistral обещает сделать на базе ML4.

Я бы сейчас прогнал превью на своих задачах — ревью, логи, триаж CVE. Бенчмарки вендорские, верить на слово не стоит.

Кто-нибудь уже планирует железо под такое?

Источник: https://mistral.ai/news/mistral-large-4/

#LLM #OpenWeights #Mistral