专治大模型“套壳”！上海AI实验室等给LLM做“指纹识别”，模型剪枝、合并等也无所遁形

上海AI实验室等机构的研究团队提出了一种名为REEF的大模型“指纹识别”方法，能够在不改变模型性能的前提下，精准识别未经授权的后续开发行为。REEF利用模型在微调后表征“不变性”的特点，通过计算两个模型对相同样本的表征之间的CKA相似性，即使经过剪枝、合并、参数排列和缩放变换等操作，也能有效识别“套壳”行为。实验结果显示，REEF在不同数据集和样本量下均表现出鲁棒性和高效性，能够确保衍生模型的责任可追溯，为AI模型保护和知识产权管理设立新标准。
来源：https://mp.weixin.qq.com/s/iK72Nn3-io4uj5deNiIe7w