模型推理成大模型商业化关键，市场潜力巨大

在 NeurIPS 2024 大会上，OpenAI 前首席科学家 Ilya 预测预训练时代即将结束，超级智能将成为未来趋势。尽管大模型技术取得显著进展，但投资者更关注其商业价值，特别是模型推理的潜力。模型推理的关键在于效果、延迟、硬件依赖、资源利用率和部署灵活性。OpenAI 的 o1 模型通过优化推理提高了性能，但也增加了计算量，引发新的 Scaling Law 讨论。目前，模型推理市场包括基础模型 API、推理服务代理运营、AI 云平台和 AI 芯片厂商，各有利弊。头部玩家因技术和算力优势占优，但边缘计算和端云协同可能带来新的市场机会。
来源：https://mp.weixin.qq.com/s/cTIJl26A2o_kv8cStTCKlw