改掉幻觉=杀死AI？Science曝光大模型「先天死穴」

《Science》文章指出，大模型幻觉源于其预训练机制和当前评估体系对“猜测”的奖励。研究发现，在十大主流基准测试中，九个采用“答对得分、空白不得分”的评分方式，导致模型更倾向编造答案而非回答“我不知道”。尽管承认不确定性可降低幻觉，但可能影响用户体验和商业竞争力。OpenAI呼吁改革评分机制以鼓励诚实，但专家认为模型易钻系统漏洞，幻觉问题难以根除，需在技术与商业间寻求平衡。
来源：https://mp.weixin.qq.com/s/7QeQe_a3SZfcB5p04UJlXQ