模型推理成大模型商业化关键,市场潜力巨大

[复制链接]
周大 发表于 7 天前 | 显示全部楼层 |阅读模式
在 NeurIPS 2024 大会上,OpenAI 前首席科学家 Ilya 预测预训练时代即将结束,超级智能将成为未来趋势。尽管大模型技术取得显著进展,但投资者更关注其商业价值,特别是模型推理的潜力。模型推理的关键在于效果、延迟、硬件依赖、资源利用率和部署灵活性。OpenAI 的 o1 模型通过优化推理提高了性能,但也增加了计算量,引发新的 Scaling Law 讨论。目前,模型推理市场包括基础模型 API、推理服务代理运营、AI 云平台和 AI 芯片厂商,各有利弊。头部玩家因技术和算力优势占优,但边缘计算和端云协同可能带来新的市场机会。
来源:https://mp.weixin.qq.com/s/cTIJl26A2o_kv8cStTCKlw

学员登陆|Archiver|手机版|靠浦网络|靠浦ai课堂 ( 鄂ICP备17024134号-3 )

GMT+8, 2024-12-23 12:21 , Processed in 0.256681 second(s), 22 queries .

Powered by Discuz! X3.5

© 2001-2024 Discuz! Team.

快速回复 返回顶部 返回列表