Anthropic安全负责人：在超级AI「毁灭」人类之前，我们可以做这些准备

2023年，Anthropic发布了“负责任扩展策略”（RSP），旨在管理日益强大的AI系统开发，减少潜在的灾难性风险。RSP定义了AI安全等级（ASL），从ASL-1到ASL-5+，等级越高，系统越安全。Anthropic认为在未来十年内，变革性人工智能（TAI）很可能诞生，这将极大加速AI研发进程。为了确保AI系统的安全性，需要解决“对齐”问题，并进行多项安全测试和评估。
来源：https://mp.weixin.qq.com/s/nxD8qeCfG1tjfpvlJ6uacg