OpenAI推出“指令层级”技术提升AI安全性

OpenAI针对ChatGPT等生成式AI产品在应用中面临的安全风险，提出了“指令层级”技术，通过系统内置指令、用户输入和第三方工具的优先级排序，有效解决指令冲突问题。经GPT-3.5 Turbo模型测试，该技术显著提升了模型的鲁棒性和防御能力，分别提高了63%和30%以上。合成数据指导和上下文蒸馏作为核心技术模块，帮助模型识别和处理不同优先级的指令，增强其安全性和泛化能力。
来源：https://www.chinaz.com/2024/1108/1651978.shtml