окей, этим завтра попробую позаниматься

а хз пока. оно первый раз сошлось. я уж бросить хотел... но сходил в оригинальный реп и оно прост поехало

ну у меня еще торч 2.9.0 был кста. мб стоило уже 2.10 поднянуть... ну позже

Кстати есть какие нить оптимайзеры кроме адама которые обьективно лучше сходятся

Сходится быстрее Адама?

Добавь ещё Sophia и Lion https://alphaxiv.org/abs/2305.14342 https://github.com/Liuhong99/Sophia https://www.alphaxiv.org/abs/2302.06675…