OpenAI发布GPT-4等模型安全测试方法

OpenAI发布关于GPT-4、DALL-E3等模型的安全测试方法，包括外部红队人员的白皮书和自动化安全测试论文。强调AI与人类协作测试，通过生成多样化攻击目标和多步骤强化学习，使用基于规则的奖励机制评估攻击有效性。注重红队成员的专业背景、多样性和独立性，确保测试全面性，并详细记录和分析测试结果，提出改进建议，持续优化模型的鲁棒性和安全性。
来源：https://www.chinaz.com/2024/1122/1654486.shtml