LLM数学推理能力遭质疑，苹果研究揭示大语言模型缺乏真正推理能力

苹果研究者发现，包括OpenAI的GPT-4和o1在内的多个大模型，在数学推理方面存在显著缺陷，更像是复杂的模式匹配器。研究者开发了GSM-Symbolic和GSM-NoOp数据集，结果显示大模型在面对稍作改动的题目时表现显著下降。其他研究也证实，大模型在解决多位数乘法等任务时依赖于记忆训练数据中的模式，而非真正的推理。专家指出，当前的大模型架构无法实现真正的抽象和形式化推理，未来的AI发展需要结合符号操作和神经网络。
来源：https://mp.weixin.qq.com/s/ecv-c7rlVZGhcSW_MLf1sQ