微软曝光“Skeleton Key”攻击，多款大模型安全受威胁

微软Azure首席技术官揭露了一种称为“Skeleton Key”的新型黑客技术，能诱使大模型如ChatGPT提供非法内容，绕过安全限制。此攻击与Crescendo的逐步诱导不同，直接挑战模型的指导方针。微软在测试中发现，包括OpenAI、谷歌、Meta和Anthropic在内的多个主流模型都易受该攻击影响。目前，微软已与相关平台分享信息，以加强模型的安全防护。
来源：https://www.chinaz.com/2024/0716/1629645.shtml