周大 发表于 2025-4-15 15:00:30

刚刚,ICLR 2025时间检验奖颁给Adam之父!Bengio「注意力机制」摘亚军

ICLR 2025时间检验奖揭晓,Adam优化器与注意力机制分获冠亚军。Adam优化器由Jimmy Ba和Diederik P. Kingma提出,显著提升模型训练效率;注意力机制由Yoshua Bengio团队首创,成为Transformer核心组件。两项成果均于2015年发表,对深度学习发展产生深远影响,凸显加拿大在该领域的领先地位。其中,Adam论文引用超20万,Bengio作为深度学习先驱屡获殊荣。
来源:https://mp.weixin.qq.com/s/E0cqdbAN-MHe3l3QRxIgkQ
页: [1]
查看完整版本: 刚刚,ICLR 2025时间检验奖颁给Adam之父!Bengio「注意力机制」摘亚军