靠浦ai课堂's Archiver
版块
›
靠浦ai资讯
› 微信炼出扩散语言模型,实现vLLM部署AR模型3倍加速,低熵场景超10倍
周大
发表于 2026-1-3 15:26:59
微信炼出扩散语言模型,实现vLLM部署AR模型3倍加速,低熵场景超10倍
腾讯微信 AI 团队推出 WeDLM,首个兼容 KV 缓存的扩散语言模型,在 vLLM 部署下相较自回归模型实现数学推理任务 3 倍以上加速,低熵场景高达 10 倍;基于 Qwen3-8B 的版本在多项评测中平均提分 2.4,同时保持高质量生成,推动高效文本生成技术发展。
来源:https://mp.weixin.qq.com/s/PFQFo9zkk9It6wQMN1zC_w
页:
[1]
查看完整版本:
微信炼出扩散语言模型,实现vLLM部署AR模型3倍加速,低熵场景超10倍