o3并非独门秘技,谷歌已发背后关键机制,方法更简单、成本更低

[复制链接]
周大 发表于 2024-12-23 14:55:47 | 显示全部楼层 |阅读模式
斯坦福、牛津及谷歌DeepMind团队研究发现,通过重复采样扩展推理计算量可显著提高模型性能。此方法使小模型在多任务中超越大模型单次尝试,如DeepSeek-Coder性能优于GPT-4o且成本低至其三分之一。论文《Monkey》指出,重复采样生成多个候选解再筛选最终答案,能提高覆盖率和精确度。实验表明,随样本数增加,覆盖率呈幂律增长,在多个任务中较弱模型表现出色且成本效益高。然而,该方法也存在模型停滞的局限性。
来源:https://mp.weixin.qq.com/s/qdxC_QyJW17gyRfN66D59A

Archiver|手机版|靠浦网络|靠浦ai课堂 ( 鄂ICP备17024134号-3 )

GMT+8, 2025-4-22 22:42 , Processed in 0.277684 second(s), 23 queries .

Powered by Discuz! X3.5

© 2001-2025 Discuz! Team.

快速回复 返回顶部 返回列表