Bengio参与的首个《AI安全指数报告》出炉，最高分仅C、国内一家公司上榜

生命未来研究所（Future of Life Institute）呼吁暂停训练比GPT-4更强大的AI模型，以确保安全。该机构邀请7位AI专家评估了6家AI公司在风险评估、当前危害、安全框架、生存性安全策略、治理和问责制以及透明度和沟通等六大关键领域的安全实践。结果显示，尽管Anthropic获得最高安全性评级，但分数仅为“C”，所有公司在安全实践方面均有提升空间。报告强调了行业提高透明度和改进安全措施的紧迫性。
来源：https://mp.weixin.qq.com/s/kq96AbxE8vsuIvT4R6uqvg