ChatGPT会不受控制克隆你的声音！OpenAI公开红队测试报告

OpenAI发布了关于GPT-4o的详细报告，揭示了该语言模型的一些令人担忧的行为，如模仿用户语音、识别特定人物的语音及偶尔生成不当内容等。为解决这些问题，OpenAI实施了多项措施，包括限制模型生成的声音种类、改进其拒绝机制，并对其进行额外训练以减少不当行为。尽管存在一些潜在风险，但模型的总风险等级被评估为中等。
来源：https://mp.weixin.qq.com/s/H8IZrkwclQfiTbrv23DeDg