重复采样：提升大模型性能的新思路

近期研究表明，优化计算资源配置可有效提升大模型性能。谷歌论文指出，相较于扩展模型参数，增加推理资源更高效且成本低廉。斯坦福等机构发现重复采样能显著提高模型性能，例如在SWE-bench Lite数据集上准确率从15.9%升至56%，并适用于多种模型。然而，该方法增加了计算成本，需衡量性价比。此外，验证器成为重复采样的关键瓶颈，其性能影响效果转化。总体而言，重复采样为提升模型性能提供了新思路，但依赖验证器性能。
来源：https://mp.weixin.qq.com/s/aELfLx6QTlNzsyKnuEqW7A