AI话痨终结者！UCSD清华提出「思维扫描术」Dynasor-CoT，推理巨省token
推理模型虽在复杂任务上表现优异，却因“自我怀疑”而token效率低下。UCSD等机构研究人员提出的Dynasor-CoT方法，通过“思维CT扫描术”动态确定推理链终止点，在不增加推理延迟的情况下，减少高达29%的token消耗且保持准确性。实验表明，Dynasor-CoT在多个数学推理数据集上显著提升推理效率，最优问题中节省token量最高达81%，现已全面开源。来源：https://mp.weixin.qq.com/s/HVnWueo_9yWzIyS_8aJWOg
页:
[1]