короче мои хорошие не за горами релизик. мне пока все нравится, все кайфово…

Кстати, ребятки если вы сеты собираете или какие-то ллмки делали, мы можем их встроить в https://github.com/researchim-ai/models-at-home для базы

А что ты оффлоадишь на цпу? Оптимайзер?

а там вроде вообще все офлодится на cpu и понадобности грузится на гпу

Это лора? Какой ранг матриц?

Погоди, а зеро 3 зачем? У тебя 2 карты?