Adam获时间检验奖！清华揭示保辛动力学本质，提出全新RAD优化器

清华大学李升波教授团队提出了RAD优化器，揭示了Adam优化器的理论机制，并在多种强化学习任务中表现出优越性能。实验显示RAD在Seaquest任务中性能为Adam的2.5倍。RAD通过引入狭义相对论原理，增强了训练稳定性和抗干扰能力，为新一代优化算法设计提供了新思路。ICLR 2024将时间检验奖授予Adam优化器论文，肯定了其对深度学习领域的深远影响。
来源：https://mp.weixin.qq.com/s/5Tq92-4ErC1k13ukPPQmBQ