周大 发表于 2025-10-29 14:48:29

推理时扰动高熵词,增强LLM性能

香港科技大学(广州)团队提出 Minimal Test-Time Intervention(MTI),通过 Selective CFG 和轻量负向提示,在不需训练的前提下提升大模型推理准确性。研究发现仅少量高熵词显著影响输出,实验表明在 Qwen3 系列模型上干预不足 4% 的词汇即可实现平均 1.58 至 4.9 个百分点的性能提升,且兼容现有推理框架,为测试时扩展提供了高效新路径。
来源:https://mp.weixin.qq.com/s/UlKseo4v6Lk2fvzKNmXmRQ
页: [1]
查看完整版本: 推理时扰动高熵词,增强LLM性能