英伟达配合Llama3.1推出定制模型、推理服务

英伟达推出NVIDIA AI Foundry及NVIDIA NIM推理微服务，配合Llama3.1大模型为企业提供全方位AI解决方案。NVIDIA AI Foundry覆盖从数据处理到模型评估全流程，NVIDIA NIM则可实现Llama 3.1模型快速部署，吞吐量最高提升2.5倍。此外，英伟达和Meta提供了方法帮助开发者创建更小的自定义Llama 3.1模型，满足更多加速基础设施的需求。
来源：https://mp.weixin.qq.com/s/i1zEzVTN53qyeYw7BFKZqw