大模型抗误导性信息能力探析

清华大学等高校的研究人员通过构建Farm数据集，深入探索了大型语言模型在虚假信息干扰下的表现。实验发现，即使是先进的模型如GPT-4，也有高达20.7%的可能性被虚假信息所影响。研究揭示了大多数大模型易受虚假信息欺骗的现象，以及模型在处理此类信息时的五种典型反应。研究者提出了轻量级解决方案，以提升模型的抗干扰能力。
来源：https://mp.weixin.qq.com/s/zTqo4PvIaktg7fTCN5Mmdg