magma_muon вроде тоже можно сделать?
magmamuon вроде тоже можно сделать?
0 viewsОткрыть в Telegram →
Из этого канала
- #6151сначала с обычным мюоном разберусь, потом его тоже добавлю)
сначала с обычным мюоном разберусь, потом его тоже добавлю)
- #6152ну и магмаадамв надо на сходимость вообще посмотреть
ну и магмаадамв надо на сходимость вообще посмотреть
- #6153VESPO: Variational Sequence-Level Soft Policy Optimization for Stable…
VESPO: Variational Sequence-Level Soft Policy Optimization for Stable Off-Policy LLM Training https://arxiv.org/abs/2602.10693…
- #6148magmaadamw это кстати вот отсюда имплмент из недавней гугловой статьи…
magmaadamw это кстати вот отсюда имплмент из недавней гугловой статьи https://t.me/researchim/141/6027
- #6147добавляю в студию оптимизаторы посмотрим что выйдет, надо все протестить
добавляю в студию оптимизаторы посмотрим что выйдет, надо все протестить