GPT-5准确率不足40%!北大发布多模态、高难度化学基准SUPERChem

[复制链接]
周大 发表于 2025-12-15 15:25:59 | 显示全部楼层 |阅读模式
北京大学团队发布化学大模型基准SUPERChem,含500道专家级多模态题目,覆盖四大化学领域。测试显示GPT-5 (High)准确率仅38.5%,接近北大化学本科生水平(40.3%),暴露出当前大模型在高阶化学推理上的普遍短板,尤其在反应机理与结构预测等环节。通过引入推理路径一致性(RPF)指标,研究发现不同模型推理质量差异显著。多模态分析揭示图像信息对强推理模型有助益,但可能干扰弱模型。该基准为提升LLM在自然科学中的深度推理能力提供了系统评估工具与优化方向。
来源:https://mp.weixin.qq.com/s/1FXQ33djvAd7tJ-hJQIf5Q

搜索|Archiver|手机版|靠浦网络|靠浦ai课堂 ( 鄂ICP备17024134号-3 )

GMT+8, 2026-10-23 13:58 , Processed in 0.270334 second(s), 21 queries .

Powered by Discuz! X3.5

© 2001-2025 Discuz! Team.

快速回复 返回顶部 返回列表