скоро еще мб попрошу потестить

Параллельно несколько задач запускать, если у модели разные головы есть (классификация + регрессия, например)

Я бы даже такое взялся написать, но пока сам хз, как такое грамотно и расширяемо построить

смотри сейчас там пока затачивается под то чтобы можно было языковые модельки небольшие совсем локально претренить и тюнить остальные задачи и более…

Сейчас пока все в процессе, любые хорошие идеи пожелания можно попробовать учесть

что имеешь в виду?