"Даниэль Хан, бывший инженер Nvidia, ужал модель Qwen3.8-27B до 6 ГБ - и она запускается на ноутбуке с 8 ГБ памяти. Сам он этот файл выпускать не хотел: 1 бит на вес - это почти вандализм над моделью. Передумал, когда на внутренних тестах она сохранила 77% точности оригинала. ""Мы были в шоке"", - пишет он. Оригинал весит 55 ГБ. Хан делает это не один. Компания называется Unsloth, основали её два брата из Австралии - Даниэль и Майкл. Команда - меньше двадцати человек, денег поднимали крохи по меркам ИИ-рынка. При этом их сборки скачали больше 200 миллионов раз. Когда выходит новая открытая модель, первое, что делают миллионы людей, - идут не к авторам модели, а к Unsloth за ""ужатой"" версией. tg / max"
"Даниэль Хан, бывший инженер Nvidia, ужал модель Qwen3.8-27B до 6 ГБ - и она…
Из этого канала
- #18988📂 Подборка каналов по AI, IT & HR Tech Каналы для тех, кто работает в IT и…
📂 Подборка каналов по AI, IT & HR Tech Каналы для тех, кто работает в IT и хочет держать руку на пульсе без мониторинга сотни источников ✔️ Что внутри:…
- #18985Ребята собрались небольшой компанией, купили убыточную кальянную в Великом…
Ребята собрались небольшой компанией, купили убыточную кальянную в Великом Новгороде и хотят провести эксперимент — передать полное управление бизнесом ИИ.
- #18984Еще раз посоветую для сложных вопросов использовать Qwen в режиме глубокого…
Еще раз посоветую для сложных вопросов использовать Qwen в режиме глубокого исследования.
- #18983"Вор он и все. Но сейчас прибегут те, кто скажет ""работодатель сам виноват"".…
"Вор он и все. Но сейчас прибегут те, кто скажет ""работодатель сам виноват"". Цитирую: ""Московский айтишник уволился и не вернул корпоративный MacBook Pro за…