经验记忆黑科技：LightSearcher让AI工具调用减39.6%、推理快48.6%
北邮百家AI团队提出LightSearcher框架，旨在解决深度思考大模型在推理过程中准确率与效率难以兼顾的问题。通过引入基于经验记忆的强化学习机制，该方法在保持与当前最优模型相当准确率的同时，显著提升效率：搜索工具调用减少39.6%，推理时间缩短48.6%，Token消耗降低21.2%。实验覆盖多个多跳问答基准，证明其在不同难度任务中均具备良好泛化能力，为构建高效、可靠的大模型外部知识调用系统提供了可行技术路径。来源：https://mp.weixin.qq.com/s/GMyQFBOY_tcp3WLwv5cdJw
页:
[1]