RLHF与RLVR全都要,陈丹琦团队最新力作将推理能力拓展到通用智能
清华姚班出身的陈丹琦团队提出 RLMT 方法,通过引入显式思维链推理,将强化学习从可验证任务扩展至开放对话领域。实验表明,在 Llama 和 Qwen 等模型上应用 RLMT 显著提升了 WildBench、AlpacaEval2 等基准的表现,尤其在聊天与创意写作中优于传统 RLHF 模型,揭示了“先思考再表达”对构建智能对话系统的重要性。来源:https://mp.weixin.qq.com/s/NdmF8GAuf-wCnop3I1Edtw
页:
[1]