OpenAI智能体曝本月诞生！比谷歌Anthropic慢，竟是担心prompt攻击

OpenAI计划本月发布计算机操作智能体，但因担忧提示注入攻击而推迟约三四周。此前，Anthropic和谷歌已相继推出类似产品，引发激烈竞争。提示注入攻击可能导致智能体被恶意利用，执行有害指令。尽管Anthropic已发布相关功能，但其安全措施有限。OpenAI更加重视AI安全，在发布时或将提供更强的安全保障以应对这一威胁。
来源：https://mp.weixin.qq.com/s/qEaUpiH9K0w6WNA82-UWTQ