英国AISI研究AI自主复制能力

英国研究机构AISI推出的RepliBench基准，首次系统性评估AI自主复制能力，将其分解为获取模型权重、计算资源上的复制、获取资源和持久性四大核心能力。测试结果显示，尽管当前AI尚未实现完全自主复制，但已在部分子任务中展现出显著进展，尤其是在与清晰接口系统交互方面。然而，通过KYC验证、外泄模型权重等仍是主要障碍。AISI警告，若AI突破这些能力，科幻中的失控场景可能变为现实。这项研究旨在平衡AI快速发展与安全需求，确保其始终受控并服务于人类利益。
来源：https://mp.weixin.qq.com/s/zutcz1qVmwi3-E1F440R-A