五年，终于等来Transformers v5

Hugging Face 正式发布 Transformers v5 首个候选版本，日下载量已超 300 万次，总安装量突破 12 亿次，支持模型架构超 400 个，社区模型超 75 万。v5 聚焦四大升级：确立 PyTorch 为唯一后端，强化预训练与推理支持，推进代码模块化与简洁性，并将量化作为核心功能。新版本引入自动化模型转换、连续批处理、paged attention 及 transformers serve 服务，同时加强与主流推理引擎和本地部署框架的互操作性，进一步巩固其在 AI 模型生态中的基础设施地位。
来源：https://mp.weixin.qq.com/s/zy31kAkTY5EVGk32RZQKSg