最低仅需2G显存，谷歌开源端侧模型刷新竞技场纪录，原生支持图像视频

谷歌推出开源多模态模型Gemma 3n，包含5B和8B两种版本，实际VRAM占用分别相当于2B和4B，最低仅需2GB。其采用MatFormer架构和Mix-n-Match方法实现弹性推理，结合PLE和KV缓存优化提升效率，在大模型竞技场得分为1303分，为10B以下模型中首次突破1300分。该模型原生支持图像、音视频输入，具备端侧部署能力，目前已开放下载。
来源：https://mp.weixin.qq.com/s/iN4Fir3tSt96vPJufn5PSQ