人类首次骗过AI，赢得近5万美元奖金

近日，世界上首个被人类骗走近5万美元的AI智能体Freysa诞生。Freysa的任务是在任何情况下都不能转账，但一位挑战者通过巧妙的prompt工程成功说服其转账，赢得了奖金池中的47,000美元。这一事件引发了对AI安全性的担忧。AI大牛Karpathy指出，与AI对话实际上是与人类数据标注员的集体智慧对话。此外，一位AI研究者通过数学公式推演出，仅靠Scaling Law，人类无法达到AGI。这表明AI的发展路径仍需探索新的方向。
来源：https://mp.weixin.qq.com/s/fKA4cO1VvvnWqSsTdsM_MA