牛津研究人员利用语义熵来识破AI“幻觉”

牛津大学的研究人员针对人工智能聊天机器人常出现的“幻觉”问题，即提供错误信息的现象，开发出一种新方法。他们利用语义熵的概念，通过概率评估大型语言模型（LLMs）的输出是否可信，旨在减少虚假信息的生成。此方法无需额外监督，增强了LLM处理新任务时的可靠性，但仍然建议用户对聊天机器人的答案保持审慎态度。
来源：https://tech.ifeng.com/c/8afVity9k0M