周大 发表于 2026-1-3 15:26:59

微信炼出扩散语言模型,实现vLLM部署AR模型3倍加速,低熵场景超10倍

腾讯微信 AI 团队推出 WeDLM,首个兼容 KV 缓存的扩散语言模型,在 vLLM 部署下相较自回归模型实现数学推理任务 3 倍以上加速,低熵场景高达 10 倍;基于 Qwen3-8B 的版本在多项评测中平均提分 2.4,同时保持高质量生成,推动高效文本生成技术发展。
来源:https://mp.weixin.qq.com/s/PFQFo9zkk9It6wQMN1zC_w
页: [1]
查看完整版本: 微信炼出扩散语言模型,实现vLLM部署AR模型3倍加速,低熵场景超10倍