推理token减少46%!Meta新方法缩短思维链,告别重复推导
Meta与多家机构联合提出元认知复用机制,通过让模型提炼并复用推理“行为”以减少重复计算。该方法在MATH、AIME等数学任务中,最高减少46%推理token消耗,同时保持准确率;在自我改进场景中准确率提升达10%。通过行为条件推理、自我修正和监督微调三种方式,显著提升了大模型推理效率与能力转化效果,为降低推理成本提供了新路径。来源:https://mp.weixin.qq.com/s/NIj6lKcjCV5kKwPVCEaxfg
页:
[1]