"все что ""удобно"" уже сделано и там нет новизны"

но что мешает компилировать питон описание в единый кернел (помимо того, что это сложно)?

сейчас уже есть компиляторы которые переводят питоноподобные функции в ptx кернел (Triton & co), пайторч умеет запекать все в куда-граф - уже хорошо, но все…

к сожалению, у меня противопоказания к триотну

в условиях эксперемента/исследования пока не очень удобно

сначала надо сделать оптимальные кернелы для каждого кастом слоя, а потом упаковывать