OpenAI创新RBR机制，提升AI安全与适应性
OpenAI推出基于规则的奖励（RBR）机制，旨在提升AI模型的安全性和适应性。RBR通过定义安全规则提供强化学习信号，减少对人类反馈的依赖，使模型更易适应变化的安全政策。实验显示，RBR训练的模型与人类反馈训练的模型在安全性能上相当，同时减少了过度拒绝的情况，提升了训练效率和成本效益。RBR适用于有明确规则的任务，未来将在更多领域应用。来源：https://mp.weixin.qq.com/s/gn_MoLjessnCMxRNNjhtuw
页:
[1]