Одна RTX 5070 Ti и российское облако: качество, рубли и свой бенч (часть 1)

В локальном прогоне на RTX 5070 Ti Qwen3.8-27B IQ3 получил успех на моих задачах в 91.1%, индекс 82.3 со скоростью работы 68.3 tok/s в один поток при контексте 131K.Читал и лично слышал очень много мнений, что 131К контекста - мало, IQ3 - глупый, но у меня есть что вам рассказать. Читать далее
Мы публикуем лишь краткий анонс. Все права на материал принадлежат Хабр — ИИ.
Ещё по теме
Meta* выпустила Muse Spark Open: запуск на 2 Mac Studio и не только
Meta* открыла веса Muse Spark Open — мультимодальной модели для программирования и многоэтапных задач. Разбираемся в плюсах и минусах релиза…
🤖Как обучить модель для upscale на ноутбуке с 4 ГБ и не умереть
Зачем нам свой улучшатор?Мы живем в эпоху доступности генеративных нейросетей, однако большинство качественных инструментов улучшения качест…
🤖Что остаётся человеку, когда Клод пишет код?
Я дизайнер, и за месяц вечеров собрал сервис, который превращает часовое видео в документ с выжимкой и таймкодами. Код писал Claude Code, эк…
Тень стратега (2): Постановка цели
Как загрузить качественным топливом конвейер разработки? Как измерить эффективность симбиоза человека и машины? Читать далее
🤖Alone in the Dark 1992 года навайбкожено на DirectX 12: ремейк за четыре часа и DLSS 5 сверху
Спойлер: собаку пришлось перерисовать с нуля. Но обо всём по порядку. А больше всего времени занял скульптинг груди ;-)В прошлый раз Claude…
🤖МВФ: ИИ-пузырь может лопнуть, попутно нанеся огромный ущерб всей мировой экономике
Международный валютный фонд (IMF) предупредил о рисках, связанных с возможным схлопыванием ИИ-пузыря, вызванного огромными финансовыми влива…