谷歌发布大模型数据筛选方法：效率提升13倍，算力降低10倍

谷歌DeepMind推出JEST算法，旨在优化多模态大模型训练中的数据筛选流程。JEST采用创新的评分策略，能在大幅降低算力需求的情况下提升筛选效率13倍。实验结果显示，相比传统方法，JEST仅用6700万样本即达到使用30亿样本的效果，同时模型性能提升约6%。
来源：https://www.chinaz.com/2024/0808/1634522.shtml