北交开源o1代码版!强化学习+蒙特卡洛树搜索,源代码、精选数据集以及衍生模型通通开源

[复制链接]
周大 发表于 2024-12-9 15:42:48 | 显示全部楼层 |阅读模式
北京交通大学研究团队推出了O1-CODER,一个专注于编码任务的开源模型。该模型结合了强化学习(RL)和蒙特卡洛树搜索(MCTS),通过基于伪代码的推理显著提升了代码生成质量。实验结果显示,监督微调(SFT)与直接偏好优化(DPO)相结合,使测试用例生成器的通过率从80.8%提升至89.2%。此外,伪代码方法实现了74.9%的平均采样通过率,提升了25.6%。团队还提出了一个六步框架,用于逐步优化代码生成,包括训练测试用例生成器、生成推理数据、微调策略模型等步骤。这一方法为模型的持续改进提供了有力支持。
来源:https://mp.weixin.qq.com/s/Y7qZDFtBklmoTeRUxjV_fw

学员登陆|Archiver|手机版|靠浦网络|靠浦ai课堂 ( 鄂ICP备17024134号-3 )

GMT+8, 2024-12-23 19:55 , Processed in 0.261069 second(s), 23 queries .

Powered by Discuz! X3.5

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表