OpenAI大改下代大模型方向，scaling law撞墙？AI社区炸锅了

研究预测，若 LLM 继续按目前速度发展，2028 年数据储备将耗尽。The Information 报道称，OpenAI 下一代旗舰模型 Orion 的质量提升幅度不及前两代，公司正将重心转向训练后的模型改进，并成立基础团队应对数据匮乏。尽管如此，OpenAI 仍在开发昂贵的数据中心以提升预训练模型性能，同时利用强化学习和带有人类反馈的强化学习改进 LLM。此外，OpenAI 正在开发推理模型 o1，通过增加计算资源提高模型响应质量。
来源：https://mp.weixin.qq.com/s/0SXPOvFPFo4f7rphxbUuwA