大模型训练新突破！Meta提出LSP：无数据也能实现能力飞升

Meta提出语言自我博弈（LSP）方法，通过让大模型在无外部数据条件下以“挑战者”与“解题者”身份自我对抗，实现持续优化。实验显示，基于Llama-3.2-3B-Instruct的LSP模型在AlpacaEval基准上胜率达43.1%，在Vicuna任务中提升显著。相比依赖数据的GRPO方法，LSP在多数场景表现相当或更优，尽管在Koala等对话数据集上仍有局限。该技术降低了对高质量数据的依赖，验证了“无数据训练”的可行性，为大模型自主进化提供新路径。
来源：https://mp.weixin.qq.com/s/9bG3kgcMcq2N4iivTito4w