阿里云升级GPU服务，加速AI推理性能提升超100%

阿里云近日推出全面升级的GPU云服务，通过优化GPU套件和ACK云原生AI套件，显著提升了多GPU推理性能，最高可达100%。此外，该服务还改善了GPU资源管理和调度，降低了AI应用的运维成本。优化后的技术已成功应用于海艺AI，推理速度提升超50%。在Forrester报告中，阿里云在全球AI基础设施解决方案中排名第二，已成为中国AI大模型的重要支撑平台。
来源：https://www.chinaz.com/2024/0719/1630618.shtml