面壁智能MiniCPM 4与Intel全面适配,实现AI PC2.2倍长文本推理优化
面壁智能推出端侧大模型 MiniCPM 4.0,具备 8B 和 0.5B 参数规模,采用“高效双频换挡”机制优化长、短文本处理能力。该模型与英特尔全面适配,借助加速技术将 AI PC 长文本推理性能提升 2.2 倍,支持 128K 长上下文窗口。同时,MiniCPM 4.0 内置自研推理框架,实现 90% 的模型瘦身与速度提升,兼容多开源框架。来源:https://tech.ifeng.com/c/8k8SmbYVGgh
页:
[1]