复旦大学：一个小技巧探测大模型的知识边界，有效消除幻觉

复旦大学提出的新方法COKE，针对大语言模型在处理专业问题时可能出现的“幻觉”现象，通过模型内部的置信度信号，教会模型识别和表达知识边界。该方法包括探测和训练两个阶段，通过无监督和一致性损失训练，显著提升了模型的自我认知能力和泛化性能。实验表明，COKE在多个数据集上超越了其他方法，证明了其有效性。
来源：https://mp.weixin.qq.com/s/nrRZwvsxXW2TT_So2jlB-w