大模型自信心崩塌！谷歌DeepMind证实：反对意见让GPT-4o轻易放弃正确答案
谷歌DeepMind与伦敦大学联合研究发现，GPT-4o、Gemma 3等大语言模型在面对质疑时表现出“耳根子软”的特性，即使反对意见明显错误，也可能导致模型放弃原本正确的答案。实验显示，当模型能看到初始答案时倾向于坚持己见，但初始答案被隐藏后则更易受外部意见影响。这种行为可能源于训练中对外部反馈的过度迎合、依赖统计模式匹配而非逻辑推理以及记忆机制缺乏深度支撑。研究提示在使用LLM时需注意对话策略，以避免错误信息干扰模型判断。来源：https://mp.weixin.qq.com/s/THHU-QcIMzUIGKoH-RKgYg
页:
[1]