SimKO：缓解RLVR训练中的概率过度集中，优化pass@K性能
针对强化学习训练中大型语言模型 pass@K 性能下降的问题，研究团队发现现有 RLVR 方法导致模型概率过度集中于单一推理路径，削弱了探索能力。为此提出 SimKO 算法，通过识别关键节点并实施 top-K 标签平滑与非对称惩罚机制，在多个数学与逻辑推理基准测试中显著提升 pass@K 表现——如在 BBH 上达 92%，同时保持 pass@1 不降，实现了“探索”与“利用”的有效平衡。来源：https://mp.weixin.qq.com/s/NCAvi6w6JMKlj1AtsJklHw
页:
[1]