Google Research研究表明,将提示词重复输入可使大模型在非推理任务中准确率大幅提升,例如Gemini 2.0 Flash-Lite在特定测试中从21.33%升至97.33%。该方法在70项测试中无一败绩,且几乎不增加响应延迟,因其利用了Transformer架构的“因果盲点”缺陷,通过重复实现类似双向注意力的效果。但该技巧在推理任务中效果不佳,与思维链结合时表现平平。同时,重复可能带来安全风险或成为防御工具,提示其应用需权衡场景。
来源:https://mp.weixin.qq.com/s/aTAfgVaqBH1lMr7c86So8Q