привет) спасибо) надеюсь реально полезная вещь получится по поводу мака - тут на самом деле сложно сказать, пока не знаю по амд например unsloth (сейчас добавляю) пишет что амд поддерживается https://unsloth.ai/docs/get-started/install/amd да и в целом вроде как в текущих версиях pytorch/transformers что-то про амд написано но это все тестить надо) по сути можно просто на компах/серверах с амд развернуть, запустить и посмотреть. но лучше дождаться обнов библиотек (сейчас делаю тоже) у меня в доступе только с нвидией компутеры сейчас
привет) спасибо) надеюсь реально полезная вещь получится по поводу мака - тут…
0 viewsОткрыть в Telegram →
Из этого канала
- #5697реально полезная вещь уже получается - лично я разраб, но далеко не мльщик, и…
реально полезная вещь уже получается - лично я разраб, но далеко не мльщик, и намучался с тем, чтобы просто протестить гипотезы по типу: а что будет если я…
- #5707unsloth пока будет доступен только в GRPO. и только с lora/qlora multigpu очень…
unsloth пока будет доступен только в GRPO. и только с lora/qlora multigpu очень медленный с ним, т.к. по-нормальному запустить его с vllm пока не выходит.
- #5708но кажись теперь завезены все текущие возможные оптимизации. теперь только…
но кажись теперь завезены все текущие возможные оптимизации. теперь только работа над интерфейсом и патчинги багов
- #5694Привет! Проект шикарный. Как считаешь, на сколько вообще реалистично…
Привет! Проект шикарный. Как считаешь, на сколько вообще реалистично портировать под другие железки ( MAC/AMD ) ?
- #5688по грпо например отдельное направление - это добавление и написание…
по грпо например отдельное направление - это добавление и написание енвайроментов для датагена.