大模型对语言有自己的理解！MIT论文揭示大模型“思维过程”

MIT的一项研究表明，大型语言模型不仅能学会代码的语法，还能理解其背后的语义。研究者通过让模型学习Karel编程语言发现，模型不仅掌握了语法结构，还在训练后期显著提高了程序的准确性和理解能力。这表明，大型模型在处理现实问题时可能具备有意义的理解，而不仅仅是依赖于统计相关性。这项研究已被ICML 24接受，进一步推动了对AI理解能力的认识。
来源：https://mp.weixin.qq.com/s/Ep_sPLW8_RLqOhdrKDlf6Q