刚刚，ICLR 2025时间检验奖颁给Adam之父！Bengio「注意力机制」摘亚军

ICLR 2025时间检验奖揭晓，Adam优化器与注意力机制分获冠亚军。Adam优化器由Jimmy Ba和Diederik P. Kingma提出，显著提升模型训练效率；注意力机制由Yoshua Bengio团队首创，成为Transformer核心组件。两项成果均于2015年发表，对深度学习发展产生深远影响，凸显加拿大在该领域的领先地位。其中，Adam论文引用超20万，Bengio作为深度学习先驱屡获殊荣。
来源：https://mp.weixin.qq.com/s/E0cqdbAN-MHe3l3QRxIgkQ