T5Gemma模型再更新，谷歌还在坚持编码器-解码器架构
谷歌推出新一代编码器-解码器模型T5Gemma 2，基于Gemma 3构建，首次实现多模态理解与最长128K token的上下文支持。该模型通过架构优化如词嵌入绑定与合并注意力，提升效率，并发布270M至4B规模的三种版本。实验表明其在多语言（支持140种）、代码、推理等任务上整体优于Gemma 3，验证了编解码器架构在特定能力上的竞争力，凸显谷歌在主流之外的技术路径探索。来源：https://mp.weixin.qq.com/s/UOBa1J4kk-DIZdUIUJqRrg
页:
[1]