周大 发表于 2024-10-14 13:49:05

图灵奖得主Yoshua Bengio新作：Were RNNs All We Needed?

图灵奖得主Yoshua Bengio领导的研究团队提出简化版LSTM和GRU（minLSTM和minGRU），在保持性能的同时，显著减少了参数量并提升了训练速度，尤其在长序列处理上表现出色，多项任务中媲美甚至超越Transformer模型，训练速度最高提升达235倍。
来源：https://mp.weixin.qq.com/s/ueid-TAw-9OjtKFKA5lqSw
页: [1]
查看完整版本: 图灵奖得主Yoshua Bengio新作：Were RNNs All We Needed?