南开大学与UIUC联合推出SearchAgent-X框架：AI搜索效率提升3倍，延迟降低80%
南开大学与伊利诺伊大学研究团队提出SearchAgent-X框架，针对大语言模型驱动的搜索智能体效率痛点进行优化。研究发现，检索精度和延迟是主要瓶颈，过高精度或微小延迟均可能大幅拖慢系统。SearchAgent-X通过优先级感知调度和无停顿检索技术，在Qwen-7B/14B等模型测试中实现吞吐量提升1.3至3.4倍，延迟降低至1/1.7至1/5，同时保持生成质量不变，为复杂AI系统提供重要参考。来源：https://mp.weixin.qq.com/s/RlLXlPVblfO6953w-gV6Nw
页:
[1]