中移动九天团队MultiPL-MoE:全新Hybrid-MoE架构用于增强通用大模型低资源代码能力
中国移动九天团队提出新型 Hybrid MoE 架构 MultiPL-MoE,通过融合 token-level 与 segment-level 专家机制,在有限计算资源下提升大模型对多编程语言的理解与生成能力。该方法在 HumanEval 和 MBPP 基准测试中显著增强低资源语言(如 Rust、Go)性能,同时缓解高资源语言的灾难性遗忘问题,研究成果已入选 EMNLP 2025。来源:https://mp.weixin.qq.com/s/oAjKRp0W80Gi9bHbhruGeg
页:
[1]