北大华为联合发布DeepSeek开源推理方案

北京大学与华为合作发布的DeepSeek全栈开源推理方案，实现了在华为昇腾上的高效推理。此方案基于北大自研系统及多个开源组件，支持大规模算力集群训推一体化部署，性能接近闭源方案。目前，该方案已在未名卓越一号集群部署成功，该集群AI算力规模为30.64PFlops（半精度）。此外，DeepSeek推理方案在openEuler开源操作系统层面进行了多项优化，包括异构调度、内存管理和编译器优化，以提升整体性能。
来源：https://tech.ifeng.com/c/8hbL4NcRKAi