DeepMind爆火论文:向量嵌入模型存在数学上限,Scaling laws放缓实锤?

[复制链接]
周大 发表于 2025-9-2 13:49:47 | 显示全部楼层 |阅读模式
近日,一篇关于向量嵌入局限性的论文引发广泛关注。DeepMind 研究人员结合几何代数与通信复杂度理论,首次从数学角度证明了嵌入模型存在根本性限制:当文档数量超过临界点后,固定维度的嵌入无法完整召回所有相关文档。这一结论对 RAG 系统影响深远,意味着即便使用最先进的嵌入模型,在大规模检索任务中也可能遗漏关键信息。研究团队构建了名为 LIMIT 的测试集,结果显示当前 SOTA 嵌入模型在简单任务中表现极差,recall@100 难以突破 20%。这不仅揭示了嵌入技术的理论边界,也对“加大模型规模即能提升性能”的主流认知提出挑战。
来源:https://mp.weixin.qq.com/s/SZU053P-BOTmsnA0KyjJEg

搜索|Archiver|手机版|靠浦网络|靠浦ai课堂 ( 鄂ICP备17024134号-3 )

GMT+8, 2025-9-27 18:38 , Processed in 0.297992 second(s), 24 queries .

Powered by Discuz! X3.5

© 2001-2025 Discuz! Team.

快速回复 返回顶部 返回列表