寒武纪已适配DeepSeek-V3.2-Exp,同步开源推理引擎vLLM-MLU

[复制链接]
周大 发表于 2025-9-30 14:21:22 | 显示全部楼层 |阅读模式
DeepSeek 于9月29日发布实验性模型 DeepSeek-V3.2-Exp,寒武纪当天即宣布完成对其“day 0”适配,并开源推理引擎 vLLM-MLU。依托 Triton 和 BangC 算子优化及并行策略,寒武纪实现业界领先计算效率。结合新模型的 Sparse Attention 机制,双方显著降低长序列训推成本,推动高效能软硬件方案发展。
来源:https://tech.ifeng.com/c/8n3w8iRMcub

搜索|Archiver|手机版|靠浦网络|靠浦ai课堂 ( 鄂ICP备17024134号-3 )

GMT+8, 2025-10-9 23:59 , Processed in 0.277839 second(s), 23 queries .

Powered by Discuz! X3.5

© 2001-2025 Discuz! Team.

快速回复 返回顶部 返回列表