CMU把具身智能的机器人给越狱了

[复制链接]
周大 发表于 4 天前 | 显示全部楼层 |阅读模式
卡耐基梅隆大学的研究团队发现,大型语言模型(LLM)控制的机器人容易受到越狱攻击,可能导致机器人在现实世界中执行有害行为,如运送爆炸物或撞击行人。研究人员开发了RoboPAIR方法,成功越狱了三种不同类型的LLM控制机器人,包括Unitree Go2机器狗。实验结果显示,越狱攻击的成功率高达100%,引发了对AI机器人安全性的担忧。研究团队呼吁开发新的防御技术,以应对这一潜在风险。
来源:https://mp.weixin.qq.com/s/UDW38k9Z03-2dCO2oCfOgw

学员登陆|Archiver|手机版|靠浦网络|靠浦ai课堂 ( 鄂ICP备17024134号-3 )

GMT+8, 2024-12-23 12:48 , Processed in 0.262145 second(s), 23 queries .

Powered by Discuz! X3.5

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表