周大 发表于 2025-12-7 15:54:53

两个LLM互相对线,推理能力起飞:康奈尔团队发布大模型版类GAN训练法

康奈尔大学团队提出PasoDoble,一种类GAN的无监督训练框架,通过Proposer生成难题、Solver尝试解答的方式提升大语言模型的数学推理能力。在完全无需人工标注的情况下,Qwen3-1.7B模型在MATH-500上的准确率从45%升至67%,平均性能提升达13–16个百分点,并在AIME、AMC等多个数学基准上表现出强扩展性。实验证明其进步源于真实反馈而非随机信号,且问题生成主要依赖推理而非记忆。该方法为减少LLM对外部监督的依赖提供了新路径,未来或将拓展至代码与事实问答等领域。
来源:https://mp.weixin.qq.com/s/uUaYPN7WAGsGR0y8n1nK-Q
页: [1]
查看完整版本: 两个LLM互相对线,推理能力起飞:康奈尔团队发布大模型版类GAN训练法