周大 发表于 2025-8-25 15:00:28

大模型能否为不同硬件平台生成高性能内核?南大、浙大提出跨平台内核生成评测框架MultiKernelBench

南京大学与浙江大学联合推出开源评测框架 MultiKernelBench,支持在 NVIDIA GPU、华为昇腾 NPU、Google TPU 等多种硬件平台上评估大语言模型(LLM)自动生成高性能深度学习内核的能力。该框架具备跨平台支持、细粒度任务分类、端到端自动化评测及类别感知提示策略,相较现有基准更具扩展性与评估深度。实测显示,当前主流 LLM 在 CUDA 平台表现优于 AscendC 与 Pallas,其中 Claude-4-Sonnet 整体性能最佳。研究指出,LLM 在非 CUDA 平台仍存在生成成功率低、性能优化不足等问题,未来将探索智能提示策略与跨平台协同生成,推动自动化高性能内核开发。
来源:https://mp.weixin.qq.com/s/ZGMaRu4S69_GKWMVL9PL5A
页: [1]
查看完整版本: 大模型能否为不同硬件平台生成高性能内核?南大、浙大提出跨平台内核生成评测框架MultiKernelBench