百位专家联名警告：AI或将体验痛苦！Hinton、Bengio掀AI意识大论战

百位来自顶尖学府的专家签署公开信，呼吁对AI意识研究保持谨慎。他们担忧若AI具备意识，或将面临“痛苦”。专家提出五项原则确保AI开发安全，并探讨AI成为“道德受体”的伦理困境。Hinton与Bengio就AI意识展开辩论，前者认为AI将发展出意识且可能接管世界，后者强调应关注AI目标导向行为及潜在威胁，而非纠结于“意识”概念，当前更需重视AI自主进化能力带来的风险。
来源：https://mp.weixin.qq.com/s/0CFdfz9LDYoykORgr78T3w