一次开发一键部署!跨平台高性能边端 AI 推理部署框架的应用与实践

[复制链接]
周大 发表于 2024-8-10 15:20:08 | 显示全部楼层 |阅读模式
EfficientDeploy是一款高性能边缘AI推理部署框架,支持一次开发一键部署至多种硬件平台。该框架通过高度模块化设计,实现了算法逻辑与底层硬件的解耦,极大提高了开发效率和算法移植性。借助统一的量化工具MTNN-IoT和Python推理包PyKit,简化了模型生产与精度验证流程。此外,针对特定硬件进行了性能优化,如硬件预处理加速、多核推理和多模型共享内存。
来源:https://mp.weixin.qq.com/s/VanwgxIhFdIwckXM-IA_tw

Archiver|手机版|靠浦网络|靠浦ai课堂 ( 鄂ICP备17024134号-3 )

GMT+8, 2025-5-18 22:40 , Processed in 0.290305 second(s), 24 queries .

Powered by Discuz! X3.5

© 2001-2025 Discuz! Team.

快速回复 返回顶部 返回列表