北航等机构发布最新综述：大语言模型集成

大语言模型集成（LLM Ensemble）作为集成学习在大语言模型时代的体现，近年来受到广泛关注。随着大语言模型数量的激增（如Hugging Face平台上的模型已超182,000个），其多样性和易用性为LLM Ensemble提供了发展基础。本文系统回顾了LLM Ensemble的最新进展，将方法分为三大范式（推理前、推理时和推理后集成）及七大类细分方法，并讨论了相关研究问题与未来方向。未来研究重点关注更精细化的片段级推理时集成方法和无监督的非级联推理后集成方法。这篇综述论文已被ArXiv收录，为研究人员提供了全面参考，有望推动该领域的进一步发展。
来源：https://mp.weixin.qq.com/s/60UUZ6mAxPwmWCS_V-9bEQ