Модель Mistral Large 4 (Le Chonk) теперь доступна как Open Weight. Это означает, что разработчики могут использовать и модифицировать эту модель в своих проектах.
В комментариях инженеры обсуждают возможности использования этой модели на своих серверах, в частности, один из них интересуется, возможно ли использовать 4-битную или 3-битную квантизацию для обслуживания модели на сервере с 4 x h200 картами и 540 ГБ оперативной памяти.
🔗 Статья · Обсуждение
ai-digest