Можно ли научить маленькую LLM учиться без роста весов? Продолжение: почему повторное обучение упёрлось в потолок
В первой статье я показал несколько опытов с небольшой моделью (её размер влезает в обычную домашнюю видеокарту) вокруг одного вопроса: может ли такая модель становиться умнее со временем — не раздуваясь до огромных размеров, а за счёт памяти, аккуратного дообучения и проверки ответов. Но я тогда не…
Мы публикуем лишь краткий анонс. Все права на материал принадлежат Хабр — ИИ.
Ещё по теме
🤖Микросервисы(async single-threaded) в эмбеддед. OpenBMC и рефакторинг «кошмара на С++» с помощью ИИ
Я всегда знал, что разработка для встраиваемых систем (embedded) является не тривиальным делом, но даже не представлял, насколько С++ код в…
🤖Как массово скачать фотографии и документы с Яндекс Диска себе на компьютер
Всем кому СРОЧНО нужно выкачать все с Яндекс Диска себе на компьютер!!! История о том как за два часа за чашечкой кофе и с ИИ напарником поп…
🤖Химкорпорация Sumitomo Bakelite удвоит выпуск упаковочных материалов для чипов в Китае и Сингапуре на фоне ИИ-бума
Японская химическая корпорация Sumitomo Bakelite объявила о расширении производства материалов для корпусирования полупроводников. Новые лин…
🤖MIT разработала ИИ-модель для рентгена, снизив ошибку совмещения с КТ с 335 до 1,2 мм
Специалисты Массачусетского технологического института (MIT), Массачусетской больницы общего профиля и Гарвардской медицинской школы разрабо…
🤖От HFT к ИБ — гонка, которую ускоряет ИИ
Нет, речь пойдет не про высокочастотную торговлю на бирже, но я буду использовать аналогию, чтобы стало понятно почему и как я думал. Собств…
🤖Может ли ИИ уничтожить человечество? Ученые оценили риски до 2100 года
Ученые комиссии журнала The Lancet по глобальным угрозам здоровью XXI века предупредили, что человечество может столкнуться с риском вымиран…