扩散语言模型写代码！速度比自回归快10倍

Inception Labs发布基于扩散技术的新一代大语言模型Mercury，专攻高效代码生成。该模型打破传统自回归模型逐词生成的限制，通过“从噪声到结构化输出”的方式，并结合Transformer架构，实现最高10倍于传统工具的生成速度，在H100 GPU上达到1109 tokens/秒吞吐量。Mercury还具备动态纠错能力，利用双向注意力机制和语法树嵌入优化代码质量。尽管其性能突出，但也带来与现有CI/CD测试速度不匹配的问题。开发团队由多位顶尖学术与工业界专家组成，并已开放在线体验平台。
来源：https://mp.weixin.qq.com/s/0B1rRdA0dnTFEXtLzGZ7Og