факт. не ну блин 8к контекст, батчсайз 2 для 1.5b это чот ваще норм
факт. не ну блин 8к контекст, батчсайз 2 для 1.5b это чот ваще норм
0 viewsОткрыть в Telegram →
Из этого канала
- #5796для такого сетапа вполне
для такого сетапа вполне
- #5797твой сет кстати будет в студии. там из русских для grpo будет gsm8k-ru и твой и…
твой сет кстати будет в студии. там из русских для grpo будет gsm8k-ru и твой и твой еще в sft пойдет, он и там и там будет добавлен для загрузки
- #5798спасибо! у меня там еще отдельно для SFT есть сеты тоже
спасибо! у меня там еще отдельно для SFT есть сеты тоже
- #5794выживаем как можем
выживаем как можем
- #5793а там вроде вообще все офлодится на cpu и понадобности грузится на гпу
а там вроде вообще все офлодится на cpu и понадобности грузится на гпу