Anthropic公布新技术：不靠删数据，参数隔离移除AI危险

Anthropic 提出 SGTM 方法，通过选择性梯度掩码在训练中将危险知识（如 CBRN）定位至特定模型参数，训练后置零即可有效移除相关能力。实验显示，在 2.54 亿参数模型中，该方法在保留通用能力的同时，知识移除效果优于传统数据过滤，且对抗微调恢复需 7 倍更多数据（9200 万 tokens），证明其实现了真正的知识删除而非抑制，为大模型安全训练提供了新路径。
来源：https://mp.weixin.qq.com/s/-36m-d7VURKgoEusIwvggQ