一行代码Post-Train任意长序列!360智脑开源360-LLaMA-Factory

[复制链接]
周大 发表于 2025-1-10 15:26:48 | 显示全部楼层 |阅读模式
360智脑开源了360-LLaMA-Factory,为LLaMA-Factory增加了关键的序列并行功能。用户只需添加一行代码即可进行任意长度的长序列后训练,显著提升了长序列处理能力。该框架经过严格验证,已在GitHub上获得初步认可。随着大模型对长序列需求的增长,现有的后训练框架面临挑战,而序列并行被认为是解决这一问题的关键技术。360-LLaMA-Factory通过模块化设计和少量代码修改,实现了高效且易于使用的长序列训练解决方案,适用于多种应用场景。
来源:https://mp.weixin.qq.com/s/fGBDQk4sa-kYHkHyZsz_eQ

Archiver|手机版|靠浦网络|靠浦ai课堂 ( 鄂ICP备17024134号-3 )

GMT+8, 2025-5-15 14:58 , Processed in 0.290652 second(s), 24 queries .

Powered by Discuz! X3.5

© 2001-2025 Discuz! Team.

快速回复 返回顶部 返回列表