上海AI Lab发布混合扩散语言模型SDAR：首个突破6600 tgs的开源扩散语言模型
上海人工智能实验室提出新型序列生成范式 SDAR，通过“训练-推理解耦”结合自回归模型的高性能与扩散模型的并行优势，实现高效推理。实验证明，SDAR 在保持甚至超越 AR 模型性能的同时，带来最高 2.3 倍的实际加速，并在 ChemBench 和 GPQA-diamond 等科学任务中分别提升 12.3 和 5.5 个百分点。该方法仅需 50B token 即可完成适配，成本远低于同类方案，且已全面开源 1.7B 至 30B 全系列模型及推理引擎，为大模型高效部署和复杂推理提供了兼具性能与效率的新路径。来源：https://mp.weixin.qq.com/s/4tsKIXSSuNE8Q0VzIQ-70Q
页:
[1]