T5Gemma模型再更新,谷歌还在坚持编码器-解码器架构

[复制链接]
周大 发表于 2025-12-19 15:06:54 | 显示全部楼层 |阅读模式
谷歌推出新一代编码器-解码器模型T5Gemma 2,基于Gemma 3构建,首次实现多模态理解与最长128K token的上下文支持。该模型通过架构优化如词嵌入绑定与合并注意力,提升效率,并发布270M至4B规模的三种版本。实验表明其在多语言(支持140种)、代码、推理等任务上整体优于Gemma 3,验证了编解码器架构在特定能力上的竞争力,凸显谷歌在主流之外的技术路径探索。
来源:https://mp.weixin.qq.com/s/UOBa1J4kk-DIZdUIUJqRrg

搜索|Archiver|手机版|靠浦网络|靠浦ai课堂 ( 鄂ICP备17024134号-3 )

GMT+8, 2026-10-23 12:59 , Processed in 0.279417 second(s), 21 queries .

Powered by Discuz! X3.5

© 2001-2025 Discuz! Team.

快速回复 返回顶部 返回列表