LLM最大能力密度100天翻一倍！清华刘知远团队提出Densing Law

清华大学刘知远教授团队提出大模型的密度定律Densing Law，指出模型能力密度每 3.3 个月翻一倍，带来模型推理开销下降、能力密度增强及端侧智能潜力增大等推论。研究还发现，模型压缩算法难以单独提升模型能力密度，且模型高性价比有效期不断缩短。
来源：https://mp.weixin.qq.com/s/O_jtO2ZuL11XB9GlaURsWg