人工智能语音模型曝出重大安全漏洞，易受声音操控

剑桥大学的一项新研究表明，人工智能语音大模型，如OpenAI的Whisper，存在严重的安全漏洞，攻击者可通过添加特制音频片段来改变模型行为，使其从转录模式切换到翻译模式。这种“模型控制攻击”无需接触模型内部，对多种语言有效，揭示了多任务语音模型的潜在风险。研究提醒，在发展多功能AI的同时，必须加强安全防护措施，以防止潜在的安全威胁。
来源：https://mp.weixin.qq.com/s/k8mjbiDXcYgkoa_6A-RSYA