逾百名专家联合呼吁优先研究AI意识，确保人工智能不会“受虐”

超过100位AI专家签署公开信，提出五项原则以负责任地开发AI技术。研究人员警告，未来可能创造出具备意识特征的AI系统，这些系统可能会遭受痛苦，且如果能够自我复制，可能会诞生大量需要道德考虑的新生命体。论文强调即使无意中创造有意识实体也应制定指南，认为该问题是“不容忽视”的。尽管目前AI尚无感知能力，但到2035年部分AI系统可能具有意识并具“道德意义”。
来源：https://tech.ifeng.com/c/8gkcnKWiBVj