周大 发表于 2025-8-31 13:56:53

Diffusion 一定比自回归更有机会实现大一统吗?

近期研究表明,扩散模型(Diffusion)在构建多模态“大一统”模型中展现出潜力,具备并行生成、精细化控制等优势,或可替代主导多模态领域的自回归架构(AR)。港大、阿里、清华等机构综述指出,扩散语言模型(DLM)在推理效率和跨模态扩展方面表现突出。尽管其理论生成效率更高,但目前实际速度仍落后于 AR。扩散架构的纠错机制也被视为一种新型压缩框架,适用于文本、图像等多种模态。
来源:https://mp.weixin.qq.com/s/by6aXjZRcRbh3tRYNAQGXg
页: [1]
查看完整版本: Diffusion 一定比自回归更有机会实现大一统吗?