全球开发者组团训练,首个异步强化学习32B推理模型震撼来袭!数据已开源
全球首个去中心化强化学习训练的32B模型INTELLECT-2发布,允许任何人用异构计算资源参与训练,无需授权。该模型在编码、数学和科学领域推理性能显著提升,采用prime-RL开源库、Shardcast广播机制和TOPLOC验证方案,实现高效、安全的去中心化训练。模型通过长度奖励控制思考预算,并结合离线数据过滤和在线优势过滤优化训练效果。目前,首个无需授权的计算池已开放,但仅接受特定高性能GPU资源贡献。来源:https://mp.weixin.qq.com/s/8hDTEjk_AqU_nORp-qdheA
页:
[1]