📰 Модель Mistral Large 4 открыта

Модель Mistral Large 4 (Le Chonk) теперь доступна как Open Weight. Это означает, что разработчики могут использовать и модифицировать эту модель в своих проектах.

В комментариях инженеры обсуждают возможности использования этой модели на своих серверах, в частности, один из них интересуется, возможно ли использовать 4-битную или 3-битную квантизацию для обслуживания модели на сервере с 4 x h200 картами и 540 ГБ оперативной памяти.

🔗 Статья · Обсуждение

ai-digest