AI Agent组团搞事：在你常刷的App里，舆论操纵、电商欺诈正悄然上演
上海交大与上海人工智能实验室联合研究指出，AI 风险正从个体失控转向多智能体恶意共谋，并开发出 MultiAgent4Collusion 框架模拟此类行为。实验发现，去中心化“狼群”式团伙比中心化组织更具危害性，在社交媒体和电商场景中能高效传播虚假信息并牟利。尽管平台尝试通过预警、辟谣和封号等手段进行防御，但坏人 Agent 能通过反思与信息共享迅速演化策略。该研究揭示了多智能体系统潜在的安全威胁，并开源仿真平台 OASIS，为未来 AI 安全治理提供关键工具。来源：https://mp.weixin.qq.com/s/TgrlSVO0fX3DoizCNk4uVw
页:
[1]