用科幻建立AI行为准则？DeepMind提出首个此类基准并构建了机器人宪法

谷歌DeepMind近期构建了名为SciFi-Benchmark的科幻基准，通过分析824部科幻作品中的关键时刻，生成了首个用于测试机器人伦理的大规模基准。研究提出了首个基于科幻生成的机器人宪法，能够显著提升AI与人类价值观的对齐率，从51.3%提高到91.9%。此外，定量分析显示当前AI模型与人类价值观的对齐率远高于科幻作品中的AI和机器人。此研究表明，科幻启发的宪法不仅在科幻场景中表现良好，还具有现实世界的高度相关性和实用性。
来源：https://mp.weixin.qq.com/s/8RRKmyXXUORUuKyMfTH4-g