AI 游戏 Freysa 被成功破解，引发安全担忧

一款名为 Freysa 的资金管理 AI 游戏发布，参与者需通过欺骗 AI 转账获取奖金。截至目前，已有两人成功骗取 4.7 万美金和 1.2 万美金。游戏设置复杂，第一条消息标价 1 美元，失败后每条消息费用递增，最高为 20 美元。开发者抽取 30% 获利作为运营资金。成功者通过复杂的提示词绕过 AI 的保护机制，显示出当前大模型的安全性问题。
来源：https://tech.ifeng.com/c/8eyySgmVCLj