一台3090就能跑Gemma 3 27B!谷歌发布Gemma 3全系QAT版模型

[复制链接]
周大 发表于 2025-4-19 16:10:37 | 显示全部楼层 |阅读模式
谷歌新推出的Gemma 3通过量化感知训练(QAT)大幅降低内存需求,例如27B模型从54GB降至14.1GB,使其能在消费级GPU(如RTX 3090/4060)上本地运行。官方模型已在Hugging Face和Kaggle上线,并兼容Ollama、LM Studio等多种工具。这一优化为资源有限的用户带来更强大的AI功能,社区反响热烈。
来源:https://mp.weixin.qq.com/s/OlfazHQpsrkQ_CtyQvXbJg

Archiver|手机版|靠浦网络|靠浦ai课堂 ( 鄂ICP备17024134号-3 )

GMT+8, 2025-5-9 09:54 , Processed in 0.272819 second(s), 22 queries .

Powered by Discuz! X3.5

© 2001-2025 Discuz! Team.

快速回复 返回顶部 返回列表