周大 发表于 2024-11-18 13:52:26

CROSS：提升AI稀疏计算效率的新方案

上海交通大学蒋力教授团队研发了CROSS，一种端到端稀疏编译优化方案，有效解决了非结构化稀疏矩阵计算效率低的问题。CROSS通过细粒度稀疏计算加速，实现了在不同稀疏率下的显著性能提升，最高达3.75倍。该技术有望推动稀疏编译在AI推理中的广泛应用，提高模型推理效率。
来源：https://mp.weixin.qq.com/s/FDFdcVCLxTa89Dk-tWVNUQ
页: [1]
查看完整版本: CROSS：提升AI稀疏计算效率的新方案