小型深度学习算子的Kernel实现库 1.项目简介 本项目将会实现常见的深度学习模型中的算子。 算子大致包括:卷积,池化,激活,Softmax,Attention,LayerNorm等 实现方式包括:cuda kernel,cublas/cudnn库,cutlass库等