DeepSeek公布推理引擎开源路径，承诺将核心优化注入vLLM生态
DeepSeek 宣布其自研推理引擎开源计划，选择以协作方式将核心优化成果贡献给现有开源项目（如 vLLM），而非直接开源内部代码库。主要原因是代码库分歧、基础设施依赖以及维护资源不足等限制。通过分享优化细节及模块化特性，DeepSeek 的贡献已使 vLLM 性能提升约 3 倍，社区对此表示支持。此外，DeepSeek 强调未来模型发布将继续秉持开放协作态度，确保社区获得最先进推理支持。来源：https://tech.ifeng.com/c/8iazlVF7Psz
页:
[1]