реально полезная вещь уже получается - лично я разраб, но далеко не мльщик, и намучался с тем, чтобы просто протестить гипотезы по типу: а что будет если я обучу модель на таком-то датасете? а на книгах? И вот я просто хочу взять модель ( заинитить c нуля, взять с претреном, с sft, etc) и посмотреть. Вот это именно то, что нужно интересующимся не мльщикам вникать в движуху
реально полезная вещь уже получается - лично я разраб, но далеко не мльщик, и…
0 viewsОткрыть в Telegram →
Из этого канала
- #5707unsloth пока будет доступен только в GRPO. и только с lora/qlora multigpu очень…
unsloth пока будет доступен только в GRPO. и только с lora/qlora multigpu очень медленный с ним, т.к. по-нормальному запустить его с vllm пока не выходит.
- #5708но кажись теперь завезены все текущие возможные оптимизации. теперь только…
но кажись теперь завезены все текущие возможные оптимизации. теперь только работа над интерфейсом и патчинги багов
- #5712по сути самая мощная по оптимизациям комбинация сейчас доступная это DeepSpeed…
по сути самая мощная по оптимизациям комбинация сейчас доступная это DeepSpeed Zero 3 + Cpu Offload + liger kernels + flash attention Qwen 2.5 1.5B с 4к…
- #5696привет) спасибо) надеюсь реально полезная вещь получится по поводу мака - тут…
привет) спасибо) надеюсь реально полезная вещь получится по поводу мака - тут на самом деле сложно сказать, пока не знаю по амд например unsloth (сейчас…
- #5694Привет! Проект шикарный. Как считаешь, на сколько вообще реалистично…
Привет! Проект шикарный. Как считаешь, на сколько вообще реалистично портировать под другие железки ( MAC/AMD ) ?