性能对标OpenAI o1!DeepSeek R1正式上线英伟达NIM平台

[复制链接]
周大 发表于 2025-1-31 16:03:20 | 显示全部楼层 |阅读模式
英伟达在build.nvidia.com平台上发布了DeepSeek R1 671b版本作为NIM(Nvidia Inference Microservices)微服务的预览版。该版本基于单个HGX H200系统,可实现每秒处理3872个token的高效性能。NIM是一种云原生微服务技术,旨在简化生成式AI模型的部署。DeepSeek R1由幻方量化旗下公司开发,在多项任务上的表现与OpenAI的o1模型相当,预计不久后将正式加入英伟达AI Enterprise软件平台。
来源:https://www.chinaz.com/2025/0131/1666721.shtml

Archiver|手机版|靠浦网络|靠浦ai课堂 ( 鄂ICP备17024134号-3 )

GMT+8, 2025-4-21 06:45 , Processed in 0.295412 second(s), 23 queries .

Powered by Discuz! X3.5

© 2001-2025 Discuz! Team.

快速回复 返回顶部 返回列表