35B-модель на RTX 5080 и RTX 3060: 109 ток/с через PCIe Gen2 x4

Чел заявляет: его 3060, посаженная на PCIe Gen2 x4, вообще не душит генерацию Qwen3.6–35B‑A3B — 109 ток/с, и плевать она хотела на узкую шину. Почему это в принципе работает, он раскладывает в статье.

Читать далее

👉 Telegram | Max