Так-то да Но от таких маленьких моделей вообще ожидать хорошего ризонинга почти нельзя) Можно брать те, у которых в претрейне были трейсы, тогда есть шанс, что можно с нуля в grpo чего-то добиться А так, я думаю, в любом случае нужно подзатюнить немножко, чтоб хотя бы структуру понимала А то у тебя 200+ степов будет вникуда сначала
Так-то да Но от таких маленьких моделей вообще ожидать хорошего ризонинга почти…
0 viewsОткрыть в Telegram →
Из этого канала
- #5769а 8б у тебя чему-нить научилась? ну всм решать реально смогла?
а 8б у тебя чему-нить научилась? ну всм решать реально смогла?
- #5770Ага, более-менее научилась У меня был бенч свой, там задач 30 всего, чисто на…
Ага, более-менее научилась У меня был бенч свой, там задач 30 всего, чисто на такие тесты Вот прогресс был
- #5771Я прям полные циклы делал, с разными вариантами экспериментировал Хотел еще на…
Я прям полные циклы делал, с разными вариантами экспериментировал Хотел еще на лидерборд позакидывать, но руки не дошли
- #5767грпо организовать не вопрос. вопрос чтобы она реально что-то выучила я думаю…
грпо организовать не вопрос. вопрос чтобы она реально что-то выучила я думаю влезет qlora ну или с анслотом.
- #5766Ты же можешь трейсы-то не брать, а просто вопрос/ответ для grpo Натюнить cold…
Ты же можешь трейсы-то не брать, а просто вопрос/ответ для grpo Натюнить cold start на каких-то более мелких трейсах и завести grpo дальше У тебя 8192 не…