актуально только в проде( пока руки не доросли туда

что-то мешает трен так же сделать?

сначала надо сделать оптимальные кернелы для каждого кастом слоя, а потом упаковывать

в условиях эксперемента/исследования пока не очень удобно

ля это интересно

От тех же ребят из стэнфорда мне понравилась идея мега-кернелов (такое как-то было в комп графике) https://hazyresearch.stanford.edu/blog/2025-05-27-no-bubbles…