免训练异构大模型集成学习框架DeePEn来了

哈工大和鹏城实验室的研究团队推出了一种名为DeePEn的新框架，用于无训练地集成异构大语言模型，解决了不同模型间的词表差异问题。通过在解码阶段融合模型输出，DeePEn实现了深度协作，提高了大模型在各种任务上的性能，无需额外训练。实验结果显示，DeePEn在多个数据集上取得了显著的性能提升，为异构大模型集成学习提供了新途径。
来源：https://mp.weixin.qq.com/s/bKOAX2vkUhMszr2_e2mZNg