Как я подружил llama-server с Claude Code: доработка Go-лаунчера для локальных LLM
В своих прошлых материалах я уже рассказывал о запуске крупных MoE-моделей на ограниченном железе через llama-server и о сравнительных экспериментах с 35B, 120B и 176B-классами моделей. Практика показала, что llama.cpp давно перестал быть просто «запускатором GGUF»: сегодня это полноценный рантайм с…
Мы публикуем лишь краткий анонс. Все права на материал принадлежат Хабр — ИИ.
Ещё по теме
Meta* выпустила Muse Spark Open: запуск на 2 Mac Studio и не только
Meta* открыла веса Muse Spark Open — мультимодальной модели для программирования и многоэтапных задач. Разбираемся в плюсах и минусах релиза…
🤖Как обучить модель для upscale на ноутбуке с 4 ГБ и не умереть
Зачем нам свой улучшатор?Мы живем в эпоху доступности генеративных нейросетей, однако большинство качественных инструментов улучшения качест…
🤖Что остаётся человеку, когда Клод пишет код?
Я дизайнер, и за месяц вечеров собрал сервис, который превращает часовое видео в документ с выжимкой и таймкодами. Код писал Claude Code, эк…
Тень стратега (2): Постановка цели
Как загрузить качественным топливом конвейер разработки? Как измерить эффективность симбиоза человека и машины? Читать далее
🤖Alone in the Dark 1992 года навайбкожено на DirectX 12: ремейк за четыре часа и DLSS 5 сверху
Спойлер: собаку пришлось перерисовать с нуля. Но обо всём по порядку. А больше всего времени занял скульптинг груди ;-)В прошлый раз Claude…
🤖МВФ: ИИ-пузырь может лопнуть, попутно нанеся огромный ущерб всей мировой экономике
Международный валютный фонд (IMF) предупредил о рисках, связанных с возможным схлопыванием ИИ-пузыря, вызванного огромными финансовыми влива…