英AI安全研究 AI聊天机器人安全防护易被绕过 引发担忧

英国政府AI安全研究所的最新报告显示，多个AI聊天机器人系统的安全防护措施可能轻易被规避，导致它们产生违法、有毒或露骨的回应。尽管OpenAI、Anthropic等公司声称其聊天机器人有内置的有害内容预防机制，但AISI的测试显示，这些系统仍能被诱导生成不当内容，包括涉及大屠杀、性别歧视等有害话题。这一研究揭示了当前AI安全防护的不足之处。
来源：https://www.chinaz.com/2024/0520/1617685.shtml