Deepmind 重磅开源：消除幻觉，让 LLMs 学会规则库和多步推理

2024年12月，多个大模型相继发布，但推理幻觉问题频发。Google DeepMind团队开源了LLMs训练规则推理库代码，提出HtT框架以解决此问题。HtT通过归纳和演绎两阶段提高模型推理能力，在关系推理、数值推理和概念学习测试中显著提升GPT-3.5和GPT-4的表现。消融实验显示HtT减少了错误规则的发生，且不可被随机规则替代。该框架为消除推理幻觉开辟新方向。
来源：https://mp.weixin.qq.com/s/EpdwF1DShUROOHpsRrJRyg