更大,还能更快,更准!蚂蚁开源万亿参数语言模型Ling-1T,刷新多项SOTA

[复制链接]
周大 发表于 4 小时前 | 显示全部楼层 |阅读模式
蚂蚁集团于2023年10月9日开源其迄今为止最大规模的语言模型Ling-1T,参数总量达1万亿,采用高效MoE架构,推理时仅激活约500亿参数,实现高性能与低成本的平衡。该模型在编程、数学、金融及知识理解等多维度基准测试中表现领先,如LiveCodeBench得分最高,AIME-25准确率达70.42%且推理更高效。依托超过20T token高质量语料和自研WSM调度器、LPO优化方法,Ling-1T在逻辑深度与生成连贯性上取得突破,并支持128K上下文和工具调用能力。蚂蚁同时开放底层训练框架,推动AI研发流程化,通过分层模型设计实现从终端到云端的广泛部署,加速大模型产业落地与技术普惠。
来源:https://mp.weixin.qq.com/s/ccGLfIe9CSspVWc3TVf6fA

搜索|Archiver|手机版|靠浦网络|靠浦ai课堂 ( 鄂ICP备17024134号-3 )

GMT+8, 2025-10-9 19:14 , Processed in 0.279520 second(s), 24 queries .

Powered by Discuz! X3.5

© 2001-2025 Discuz! Team.

快速回复 返回顶部 返回列表