谷歌技术报告披露大模型能耗：响应一次相当于微波炉叮一秒

面对AI大模型高能耗的舆论压力，谷歌公布Gemini模型的能耗数据：单次查询仅耗电0.24wh，碳排放0.03g CO₂e，用水约5滴，较一年前分别下降至1/33和1/44。谷歌采用更全面的评估方法，涵盖芯片利用率、空闲资源、CPU内存、数据中心基础设施等多维度。其能效提升主要来自全栈优化策略，包括高效模型架构、MoE机制、AQT训练方法、自研TPU芯片（如Ironwood）、动态资源调度系统及高效数据中心（PUE 1.09），并辅以清洁能源和水资源管理措施，实现AI服务的绿色化发展。
来源：https://mp.weixin.qq.com/s/4leZPpJexWfN62CJiQM1uw