ля это интересно

актуально только в проде( пока руки не доросли туда

что-то мешает трен так же сделать?

сначала надо сделать оптимальные кернелы для каждого кастом слоя, а потом упаковывать

От тех же ребят из стэнфорда мне понравилась идея мега-кернелов (такое как-то было в комп графике) https://hazyresearch.stanford.edu/blog/2025-05-27-no-bubbles…

Кто-нибудь занимается именно инженерной частью - оптимизацией тренинга, инференса под модели/железо, чтобы свои кернела разрабатывать и разного рода…