LLM推理性能受输出格式影响，JSON最严重

台湾大学与Appier AI Research的一项新研究显示，格式限制会降低大语言模型(LLMs)的推理能力。研究中，“思维链”提示方式有效，而“格式限制”提示方式降低了LLMs的推理能力。最佳解决方案是“二次转换”，即先用自然语言回答问题，再将答案转换为目标格式。此外，不同的LLMs对不同格式有不同的偏好，如GPT偏好YAML，Claude偏好XML，Gemini/Gemma偏好JSON。
来源：https://mp.weixin.qq.com/s/TbNikW2cvFPACoLzHh30cQ