周大 发表于 2024-10-18 15:21:10

Mistral发布新边缘计算小模型,性能显著提升

Mistral研究团队发布两款新边缘计算小模型Ministral 3B和8B,统称“les Ministraux”。团队称这是世界最佳边缘计算模型,与10B以下模型相比,推理能力和效率显著提升。这些模型适用于设备端计算和隐私保护的关键应用,如设备翻译和智能助手。在多项基准测试中,Ministral 3B表现优于更大规模的Mistral 7B。定价分别为每百万token 0.1美元和0.04美元,支持私有部署。
来源:https://mp.weixin.qq.com/s/IcW-Y4_ptDSonUsUYZFIRw
页: [1]
查看完整版本: Mistral发布新边缘计算小模型,性能显著提升