OpenAI重组GPT-5“灵魂”团队！亚裔女负责人遭调离，罕见自曝AI幻觉祸首
OpenAI近期宣布重组ChatGPT“模型行为”团队，将其并入后训练团队，并由前负责人Joanne Jang领导新成立的OAI Labs，探索下一代AI交互方式。与此同时，OpenAI发布论文指出当前主流评测体系奖励AI猜测答案而非诚实回应，导致模型产生“幻觉”。研究显示，AI在面对无法回答的问题时更倾向于“拍脑袋”作答以获取高分，这种“应试”机制加剧了幻觉问题。实验数据显示，新模型gpt-5-thinking-mini在52%的情况下选择不回答，幻觉率显著下降至26%。OpenAI强调应重构评估体系，通过奖惩机制鼓励模型表达不确定性，并澄清了关于幻觉的多个误解，指出幻觉并非不可避免，评测体系的激励机制才是关键。来源：https://tech.ifeng.com/c/8mRpcjGrOAC
页:
[1]