GPT-5变蠢背后:抑制AI的幻觉,反而让模型没用了?

[复制链接]
周大 发表于 2025-8-23 14:22:27 | 显示全部楼层 |阅读模式
OpenAI推出GPT-5后,用户普遍反映其创造力下降、输出呆板,主因是幻觉率降低导致模型概率分布收紧。专家甄焱鲲指出,幻觉并非绝对负面,需根据使用场景辩证看待。幻觉类型包括语言生成、推理错误、常识偏差等,企业应用中需结合效率与成本评估其影响。缓解幻觉的主要手段包括使用大模型、RAG、In-Context Learning和微调,但微调存在灾难性遗忘问题,RAG和上下文学习更具实用优势。当前AI编程工具虽能完成任务,但幻觉累积和试错成本高。理论研究表明幻觉无法完全消除,抑制幻觉也会影响泛化能力。行业对幻觉认知趋于理性,未来或通过“世界模型”等新方向缓解问题,推动AI向更深层次理解发展。
来源:https://tech.ifeng.com/c/8m2qXm2deqV

搜索|Archiver|手机版|靠浦网络|靠浦ai课堂 ( 鄂ICP备17024134号-3 )

GMT+8, 2025-9-27 21:12 , Processed in 0.281671 second(s), 23 queries .

Powered by Discuz! X3.5

© 2001-2025 Discuz! Team.

快速回复 返回顶部 返回列表