o3并非独门秘技，谷歌已发背后关键机制，方法更简单、成本更低
斯坦福、牛津及谷歌DeepMind团队研究发现，通过重复采样扩展推理计算量可显著提高模型性能。此方法使小模型在多任务中超越大模型单次尝试，如DeepSeek-Coder性能优于GPT-4o且成本低至其三分之一。论文《Monkey》指出，重复采样生成多个候选解再筛选最终答案，能提高覆盖率和精确度。实验表明，随样本数增加，覆盖率呈幂律增长，在多个任务中较弱模型表现出色且成本效益高。然而，该方法也存在模型停滞的局限性。来源：https://mp.weixin.qq.com/s/qdxC_QyJW17gyRfN66D59A
页:
[1]