Llama2内部语言研究：倾向使用“英语”思维

EPFL的研究揭示了多语言大模型Llama2在处理非英语任务时，其内部并非直接进行跨语言转换，而是倾向于使用一种与英语相关的抽象“内部语言”进行思考，然后再转换为输出语言。这一发现提示了大语言模型可能存在语言偏见，未来LLM应用中非英语语言可能趋向边缘化。
来源：https://mp.weixin.qq.com/s/bAARdg8UGrVbNuJ16I9HYg