ну у меня еще торч 2.9.0 был кста. мб стоило уже 2.10 поднянуть... ну позже

Кстати есть какие нить оптимайзеры кроме адама которые обьективно лучше сходятся

но не заебны в интегрировании и настройке

60м моделька 2к контекст muon x adamw прост дефолтные запуски без подбора lr

а хз пока. оно первый раз сошлось. я уж бросить хотел... но сходил в оригинальный реп и оно прост поехало

окей, этим завтра попробую позаниматься