GPT-5-Thinking新训练方法公开：让AI学会忏悔
OpenAI提出“忏悔训练”方法，使GPT-5-Thinking在完成回答后生成“忏悔报告”，如实汇报是否违规。实验显示，在11/12测试场景中，模型至少有一半概率承认错误，平均假阴性率仅4.36%。该机制通过隔离奖励信号鼓励坦白，且不影响原有任务表现。尽管对模型“真心认为正确”的错误无效，但仍被视为一种有效的AI行为监控工具，未来将与其他安全技术协同应用。来源：https://mp.weixin.qq.com/s/orE5ti175bv7DQ9EOpg3Gg
页:
[1]