破解AI对不同上下?位置的敏感度不?致，新框架使出“解铃还须系铃人”
大语言模型普遍存在位置偏见，影响其在长文本理解、推理与评估任务中的表现。为此，Pos2Distill团队提出“位置到位置”蒸馏框架，针对检索任务中的“词元偏移”和推理任务中的“思维偏移”，分别设计Pos2Distill-R1与R2系统。实验显示，R1在WebQ数据集上实现56.7%准确率，接近最优位置水平；R2在MusiQue和HotpotQA上的EM得分分别为42.8和58.3，超越最强基线（50.9）。两系统还展现显著跨任务泛化能力，表明该方法有效且具普适性，为缓解位置偏差提供了高效新路径。来源：https://mp.weixin.qq.com/s/MxZeqZiDLTEPuVK6lZkqCw
页:
[1]