RECIPE提升LLM知识编辑效率和通用能力
阿里安全与华东师范大学联合发布了一项名为RECIPE的新研究,该方法通过将知识描述转换为连续提示的token表示,提高了大型语言模型(LLM)的知识编辑和推理效率。RECIPE集成了知识哨兵机制,动态计算阈值,确定检索库的相关性。实验结果显示,RECIPE在多个权威基座模型和编辑数据集上表现出优越的性能,尤其在终身编辑和通用能力保护方面。这项研究解决了现有方法中灾难性遗忘和性能下降的问题,为LLM的知识更新提供了新的解决方案。来源:https://mp.weixin.qq.com/s/aW6Vm2ZTieeyKfHNz9UIow
页:
[1]