vivo与港中文联合推出高效多模态模型BlueLM-V-3B

vivo AI 研究院与香港中文大学联合研发的 BlueLM-V-3B 是一款专为移动平台设计的多模态大语言模型。该模型通过优化动态分辨率方案和硬件感知部署，克服了手机内存和计算能力的限制，实现了高效、流畅的运行。BlueLM-V-3B 在参数规模相似的模型中达到 SOTA 水平，甚至超越了一些参数规模更大的模型。在天玑 9300 处理器上，内存需求仅为 2.2GB，图像编码时间为 2.1 秒，token 输出速度为 24.4token/s。未来，该团队将继续优化性能与可用性，以适应更多手机设备。
来源：https://mp.weixin.qq.com/s/duIfJRcABRRgmoq3J1B4ug