清华大学团队提出EfficientTrain++，提升深度学习训练效率

清华大学的研究团队针对深度学习模型训练成本高的问题，推出了一种名为EfficientTrain++的广义课程学习算法。该算法能加速视觉基础网络的训练过程1.5-3倍，适用于不同规模的模型和训练数据，且不影响性能。通过观察模型自然学习简单特征的倾向，团队设计了一种逐步揭示复杂特征的训练策略，实验表明，这种方法在ImageNet数据集上显著提升了训练效率，对小模型的性能也有显著提升，且在自监督学习和下游任务中表现出色。
来源：https://mp.weixin.qq.com/s/GsFXuNpZAF98bc7uMvOBCA