Anthropic揭示AI模型内部工作机制，提升安全性

Anthropic公司近期在揭示AI模型内部工作机制上取得了重大进展，其研究集中在Claude Sonnet模型上，成功表征了数百万个概念，增强了对大型语言模型的理解，提升了安全性。通过字典学习技术，研究人员能够操纵模型的抽象特征，影响其行为，这一发现对于识别潜在的安全风险和防止滥用至关重要，如诈骗邮件检测、偏见管理等。
来源：https://www.chinaz.com/2024/0522/1618240.shtml