推特吵架吵出篇论文！谢赛宁团队新作iREPA只要3行代码
一项由推特辩论催生的研究表明，在视觉生成任务中，表征的空间结构（如patch token间的相似性）比ImageNet-1K分类准确率所反映的全局语义更具决定性作用。通过对27种视觉编码器的大规模分析发现，线性检测准确率仅约20%的模型有时优于超80%的模型，且注入全局语义反而可能损害性能。基于此，研究团队提出iREPA方法，通过简单修改投影层和引入空间规范化，仅用3行代码即可提升多种框架的收敛速度与效果，凸显了空间信息在稠密视觉任务中的核心地位。来源：https://mp.weixin.qq.com/s/FV3_RtzI2bA2qDBnp3ommA
页:
[1]