NoProp:无需前后向传播的神经网络训练新方法
牛津大学和Mila实验室的研究者开发了一种名为NoProp的新方法,该方法无需前向或反向传播即可训练神经网络。通过让每一层独立学习对噪声目标进行去噪,NoProp在MNIST、CIFAR-10和CIFAR-100数据集上的表现优于现有的无反向传播方法。这种方法不仅提高了准确率,还减少了GPU内存消耗,展现了更高效的分布式学习潜力,为深度学习提供了新的可能性。来源:https://mp.weixin.qq.com/s/xXOe0Xw9kk3MGKvnoQejyQ
页:
[1]