возможно баян, но один из лучших обзоров на оптимизацию кернелов (на карты поколения ampere) от чела из anthropic: https://siboehm.comsh/articles/22/CUDA-MMM