更大，还能更快，更准！蚂蚁开源万亿参数语言模型Ling-1T，刷新多项SOTA
蚂蚁集团于2023年10月9日开源其迄今为止最大规模的语言模型Ling-1T，参数总量达1万亿，采用高效MoE架构，推理时仅激活约500亿参数，实现高性能与低成本的平衡。该模型在编程、数学、金融及知识理解等多维度基准测试中表现领先，如LiveCodeBench得分最高，AIME-25准确率达70.42%且推理更高效。依托超过20T token高质量语料和自研WSM调度器、LPO优化方法，Ling-1T在逻辑深度与生成连贯性上取得突破，并支持128K上下文和工具调用能力。蚂蚁同时开放底层训练框架，推动AI研发流程化，通过分层模型设计实现从终端到云端的广泛部署，加速大模型产业落地与技术普惠。来源：https://mp.weixin.qq.com/s/ccGLfIe9CSspVWc3TVf6fA
页:
[1]