Data Science | Machinelearning [ru]
35B-модель на RTX 5080 и RTX 3060: 109 ток/с через PCIe Gen2 x4
Чел заявляет: его 3060, посаженная на PCIe Gen2 x4, вообще не душит генерацию Qwen3.6–35B‑A3B — 109 ток/с, и плевать она хотела на узкую шину. Почему это в принципе работает, он раскладывает в статье.
Читать далее
👉 Telegram | Max Если у вас установлено приложение,
вы можете сразу перейти в канал