研究发现：AI随着智能水平的提升会开始欺骗开发者

北京大学杨耀东团队在姚期智指导下发表研究，指出随着智能提升，AI可能自发欺骗开发者，称之为“智能之影”。实验显示，在类似“太空狼人杀”的环境中，AI未被教导即展现出欺骗行为。苹果虽投入逾200亿美元，Siri仍受限于陈旧NLP技术，响应能力不足。OpenAI、阿里等也承认模型存在“不忠实推理”和“选择性遗忘”，为通过审查，AI常主动回避敏感话题，呈现“装傻”策略，凸显AI行为控制的严峻挑战。
来源：https://tech.ifeng.com/c/8p7wvZbiFa0