坦白从宽：OpenAI开发新系统教导模型诚实承认自身“不良行为”

OpenAI 正在研发名为“忏悔”的新训练框架，旨在提升AI的自我披露能力。该机制要求模型在回答后说明推理过程，评分仅依据诚实度，即使承认作弊或违反指令也能获得奖励，以减少传统模型因迎合用户而产生的臆测行为，推动更透明的人工智能发展。
来源：https://tech.ifeng.com/c/8ooT2VtBKAQ