Meta提ExFM框架:万亿参数基础大模型的工业级落地成为可能
Meta AI 研究团队提出 ExFM 框架,解决了万亿参数大模型在广告推荐中高效部署的问题。通过外部蒸馏与数据增强系统(DAS),ExFM 实现零额外推理延迟,并结合辅助头与学生适配器提升知识迁移效率。框架支持单个基础模型服务多个垂直场景,显著降低计算成本。实验结果显示,ExFM 在内部及公开数据集上大幅提升性能,验证其跨场景泛化能力。该研究为大模型在工业级推荐系统的应用提供了新方向。来源:https://mp.weixin.qq.com/s/Y9rlMxg4EMl_bzi9N_s7GA
页:
[1]