Diffusion 一定比自回归更有机会实现大一统吗？

近期研究表明，扩散模型（Diffusion）在构建多模态“大一统”模型中展现出潜力，具备并行生成、精细化控制等优势，或可替代主导多模态领域的自回归架构（AR）。港大、阿里、清华等机构综述指出，扩散语言模型（DLM）在推理效率和跨模态扩展方面表现突出。尽管其理论生成效率更高，但目前实际速度仍落后于 AR。扩散架构的纠错机制也被视为一种新型压缩框架，适用于文本、图像等多种模态。
来源：https://mp.weixin.qq.com/s/by6aXjZRcRbh3tRYNAQGXg