月之暗面公开强化学习训练加速方法：训练速度暴涨97%，长尾延迟狂降93%

月之暗面与清华团队推出强化学习加速引擎Seer，通过分段生成、上下文感知调度与自适应推测解码，在不改动训练算法下使LLM Rollout吞吐提升74%~97%，长尾延迟降低75%~93%；实验覆盖多大模型，性能显著优于veRL基线；另据消息称其新一轮融资将达数亿美元，估值升至40亿，并拟明年下半年IPO。
来源：https://mp.weixin.qq.com/s/Ur08vcwNSlPygRHhClopNg