Когда LLM должна сказать «Я не знаю»?
В RAG недостаточно найти документы на нужную тему: они должны содержать сведения, из которых можно обосновать ответ. Разберём три способа исследовать эту границу — от внешнего оценщика контекста до анализа активаций модели и испытаний на противоречивых свидетельствах. Читать далее
Мы публикуем лишь краткий анонс. Все права на материал принадлежат Хабр — Machine Learning.
Ещё по теме
🧠Xiaomi выпустила открытую модель OCR-0 для распознавания документов
Xiaomi опубликовала OCR-0 — модель, которая распознаёт текст, извлекает нужные поля из документов и отвечает на вопросы по содержанию. Разме…
🧠Разработчик представил нейросеть, которая воссоздаёт аркады на Raspberry Pi Pico 2 W
Разработчик под никнеймом SheepSeb поделился проектом, в котором две компактные нейросети воссоздают простые игры на Raspberry Pi Pico 2 W и…
🧠Когда A/B-тест провести сложно: оцениваем эффект предодобренных кредитов с помощью PSM
Банк выбрал клиентов, которым готов предложить кредит, рассчитал предварительные условия и запустил кампанию. Через несколько месяцев доля о…
🧠Объединяй и властвуй: как перенести ML-эксперимент из лабораторного кластера в промышленный за 60 секунд
Всем привет! Мы команда ML-платформы Ozon. Мы строим инфраструктуру, которой ежедневно пользуются дата-сайентисты и ML-инженеры — от первых…
🧠Шум в эмбеддингах не защищает данные: проверил 8 схем, и при 100 известных парах узнаётся ~90% документов
Коротко. Если хранить эмбеддинги с добавленным шумом, текст по ним восстановить трудно, но это не значит, что данные защищены. Я измерил, мо…
🧠Claude и Codex составили рейтинги вузов б.СССР по 49 критериям из мира Verilog, FPGA и ASIC
Два дня Клод Opus 5.5 и Кодекс Astra 6 булькали и чавкали, а на третий выдали рейтинг сотни университетов по 49 пунктам критерия, который им…