весь день потратил на отладку lora в grpo прям очень плохая сходимость была оказалось learning rate надо было 5e-05 сделать... в 10 раз поднять блин. но в студии это очень удобно) для фулл-тюна и старого lr хватало
весь день потратил на отладку lora в grpo прям очень плохая сходимость была…
0 viewsОткрыть в Telegram →
Из этого канала
- #5642короче хз, мне все нравки. в целом можно сливать
короче хз, мне все нравки. в целом можно сливать
- #5643а еще можно UI немножко пошаманить
а еще можно UI немножко пошаманить
- #5644А еще вот чо надо - подборка датасетов для грпо же
А еще вот чо надо - подборка датасетов для грпо же
- #5638Falcon-H1-Tiny: A series of extremely small, yet powerful language models…
Falcon-H1-Tiny: A series of extremely small, yet powerful language models redefining capabilities at small scale…
- #5637https://docs.nvidia.com/nemo/rl/latest/guides/environments.html
https://docs.nvidia.com/nemo/rl/latest/guides/environments.html