OpenAI部署新监控系统，防范o3和o4 - mini提供生物和化学威胁建议

人工智能公司 OpenAI 推出“安全导向推理监控器”，用于监测其最新模型 o3 和 o4-mini，防止提供生物和化学威胁建议。尽管测试显示模型拒绝风险提示的比例高达 98.7%，但 OpenAI 承认仍需人工监控弥补不足。o3 和 o4-mini 虽能力更强，但在生物威胁领域存在较高风险。此外，研究人员对 OpenAI 的安全措施提出质疑，认为测试时间有限且透明度不足。
来源：https://tech.ifeng.com/c/8ibREZdqqFl