单张A100全精度推理！谷歌明星开源模型Gemma 2上新9B/27B

谷歌昨晚开源了新一代大模型Gemma 2，提供9B和27B两个版本，兼顾高性能和效率，能在单个谷歌云TPU或特定GPU上运行。Gemma 2采用创新技术优化，如知识蒸馏，提升了模型性能和安全性。它注重实用性，兼容多种AI框架，可在Google AI Studio、Kaggle和谷歌Colab上免费试用，旨在推动全球范围内的AI研究和应用。
来源：https://mp.weixin.qq.com/s/z3h1eExDgItDf38Xar6yPg