大模型“精细化”对齐,真实性提升25.8%刷新SOTA!token级精准编辑,无需训练即插即用
北航团队在EMNLP 2025提出Token-Aware Editing (TAE),一种无需训练的推理时表征编辑方法。该方法在token级别实现精细化干预,通过MIG增强对齐方向探测,MAI动态调整编辑强度。实验显示,在LLaMA-3-8B-Instruct上,TAE将TruthfulQA真实性得分提升至87.8%,相较前最优提升14.6个百分点;毒性概率从0.41降至0.05,刻板印象分数从64.8%降至50.3%,在多种模型上均显著优于现有方法。来源:https://mp.weixin.qq.com/s/fOUaDciboRXC2ikoQvol3g
页:
[1]