⚡️ Полную 125B-модель Qwen запустили на RTX 4090 с всего 6 ГБ VRAM. Обычно такой checkpoint весит 360 ГБ и требует серверов. Но инженеры сделали это на домашней 4090 без квантизации — пик 5,95 ГБ. Модель полная, с vision и 262K контекстом. VRAM больше не главная проблема для игровых моделей. Но я скажу свое мнение - мы наигрались в локальные модели, хватит... Карты продали. tg / max
⚡️ Полную 125B-модель Qwen запустили на RTX 4090 с всего 6 ГБ VRAM. Обычно…
Из этого канала
- #19464В запрещенном LinkedIn прочитал, что все логотипы ИИ приложений имеют форму…
В запрещенном LinkedIn прочитал, что все логотипы ИИ приложений имеют форму ануса. И теперь я не могу это не замечать. tg / max
- #19465Meta выпустила Muse для macOS — ИИ-агент получил доступ к приложениям на…
Meta выпустила Muse для macOS — ИИ-агент получил доступ к приложениям на компьютере Персональный агент Muse, представленный в начале сентября, теперь доступен…
- #19466Автомобили не совсем моя тематика, но не мог пройти мимо. На заводе «Москвич»…
Автомобили не совсем моя тематика, но не мог пройти мимо. На заводе «Москвич» официально запустили в серию производство электрички «Атом». Запас хода 500 км.
- #19460"Объем оперативной памяти бортового компьютера «Аполлон-11», который доставил…
"Объем оперативной памяти бортового компьютера «Аполлон-11», который доставил людей на Луну в 1969 году, составлял всего 4 килобайта.
- #19459Мало кто знает, но можно купить дом в Питере по ставке 6% ипотеки. Я откладываю…
Мало кто знает, но можно купить дом в Питере по ставке 6% ипотеки. Я откладываю копить на voyah free, начинаю копить на дом :)