Видеомодель на 22 миллиарда параметров на RTX 3080: что пришлось сделать, чтобы она влезла в 10 ГБ
У меня RTX 3080 с 10 ГБ видеопамяти. У LTX-2.5 — 22 миллиарда параметров, 39 ГБ весов трансформера и ещё 24,5 ГБ текстового энкодера. По этим цифрам знакомство можно было бы закончить. Но модель удалось запустить локально под Windows и встроить в конвейер коротких роликов. Читать далее
Мы публикуем лишь краткий анонс. Все права на материал принадлежат Хабр — ИИ.
Ещё по теме
🤖Черепашка, Дракон и вайбкодинг. 70 лет попыток обойтись без программиста
В 1959 году создатели COBOL надеялись, что код на нём смогут читать менеджеры. Потом были черепашка Logo, советский ДРАКОН, Visual Basic, no…
Anthropic переименовала подписки и сняла 5-часовые лимиты для некоторых
Anthropic упростила названия старших тарифов Claude. Подписка Max 5x теперь называется просто Max, а Max 20x получила название Ultra. Цены н…
🤖Сначала память и SSD, а теперь и печатные платы: стоимость материалов для печатных плат выросла в 12 раз на фоне ИИ-бума, а сами платы становятся дефицитом
В некоторых случаях заказы на печатные платы растягиваются на 30 месяцев На фоне бума искусственного интеллекта возник дефицит ещё одного ва…
🤖Российских студентов к 2028 году начнут выпускать из вузов вместе с ИИ‑двойниками, прогнозируют в ВШЭ
К 2028 году молодые специалисты будут выпускаться из вузов вместе со своими ИИ‑двойниками, которые обучались вместе с ними все их годы в уни…
🤖Дефицит производства печатных плат усиливается: влияние ИИ-бума
Спрос со стороны серверного сегмента для систем машинного обучения оказывает сильное давление на базовые уровни цепочки поставок электроники…
🤖Впихнуть невпихуемое
Прогресс мчится невероятными темпами. Еще в сентябре запуск 125-миллиардной MoE-модели на домашнем ПК казался забавой для владельцев серверн…