路由LLM新范式突破大模型性能瓶颈

研究人员提出并开源了RouterEval基准，整合超过8500个LLM在12个主流Benchmark上的2亿条性能记录，将大模型路由问题转化为分类任务，极大降低了研究门槛。路由LLM范式通过智能调度实现异构模型协同增效，展现出显著的性能优势，尤其是在使用5-10个候选模型时即可达到接近甚至超越GPT-4的效果。然而，该领域仍面临数据不足、分类复杂度高及多目标优化等挑战，未来需进一步优化部署方案和数据集建设。
来源：https://mp.weixin.qq.com/s/z8x6tMeqV98xacixq7m8ZA