🤖 ИИ

35B‑модель на RTX 5080 и RTX 3060: 109 ток/с через PCIe Gen2 x4

35B‑модель на RTX 5080 и RTX 3060: 109 ток/с через PCIe Gen2 x4
Фото: Хабр — ИИ

Моя RTX 3060 на PCIe Gen2 x4 не мешает генерации Qwen3.6–35B‑A3B со скоростью 109 ток/с. Разбираю, почему это работает. Читать далее

Полный материал — на сайте первоисточника

Мы публикуем лишь краткий анонс. Все права на материал принадлежат Хабр — ИИ.

Читать на habr.com ↗

Ещё по теме