Decision-модели изнутри: как устроены Jev, Clef, pplx-decider, Strands Decider, Laya и GLiDE
15 сентября TypeSafe выпустила Jev и назвала её первой моделью класса System One. Jev получает состояние системы и набор типизированных вопросов, а возвращает распределение вероятностей по допустимым ответам. Весь ответ считается за один прямой проход, без генерации токенов.За 16 дней вышли ещё пять…
Мы публикуем лишь краткий анонс. Все права на материал принадлежат Хабр — Machine Learning.
Ещё по теме
🧠Языковая модель в поиске магазина: как подключить её так, чтобы её падение никто не заметил
В прошлой статье я рассказывал, как устроено ядро нашего поиска: триграммы, crc32, словарь болей и два сита. В конце был короткий раздел «А…
🧠Как мы запустили ИИ-ревьюера на 4000 PR в день — и какие баги он находит
Бывает так, что ревьюер посмотрел пул-реквест, тесты зелёные, компиляция прошла успешно, а в коде всё равно остался баг, который проявится т…
🧠Два робота и один скрипт на Bash
Я раньше ругал людей который пишут посты с помощью ИИ, но решил написать такой пост сам. Пост ниже сгенерен ИИ от первой до последней буквы…
🧠как OpenAI, Anthropic, Google и xAI борются за модели, облака и разработчиков
OpenAI, Anthropic, Google и xAI уже конкурируют не только качеством моделей. Настоящая борьба идёт за вычислительные мощности, собственные ч…
🧠C++ в 2026-м: память, прод, игры, Rust и ИИ — зачем учить язык, который невозможно знать целиком
C++ умеет ровно то, за что его одновременно любят и боятся: дает разработчику почти полный контроль над происходящим, позволяет выжимать из…
![[Перевод] Запускаем LLM локально на Windows: WSL2, Docker, CUDA и vLLM](https://habrastorage.org/getpro/habr/upload_files/09d/d3e/2dc/09dd3e2dc11319089edcfacc2b6780cd.webp)
🧠[Перевод] Запускаем LLM локально на Windows: WSL2, Docker, CUDA и vLLM
Большинство инструкций по локальному запуску LLM сводятся к одной-двум командам: вставьте их в терминал, дождитесь загрузки модели и готово…