English | 中文
zetton-inference 是一个用于深度学习推理的开源软件包。它是 Project Zetton 的一部分。
主要特性
-
模块化设计:zetton-inference 的设计是模块化的,这意味着您可以轻松地将新的推理节点添加到包中
-
支持多个框架:zetton-inference 支持多个深度学习推理框架,例如 ONNX、TensorRT、RKNN、OpenVINO 等
-
高效:zetton-inference 的设计旨在高效,这意味着您可以轻松地将推理节点部署到 GPU 服务器或嵌入式设备上
-
先进算法:zetton-inference 提供各领域的先进算法模型,如目标检测、目标跟踪等
-
(2022-09-19) 基于 TensorRT 的推理节点已经迁移到 zetton-inference-tensorrt
-
(2022-10-08) 该仓库已转换为纯 CMake 包。
有关详细信息和发布历史,请参阅 changelog.md 。
有关 zetton-inference 不同版本之间的兼容性更改,请参阅 compatibility.md 。
请参考 快速入门指南 获取安装说明。
请查看 快速入门指南 以了解 zetton-inference 的基本用法。
任务 | 模型 | ONNX | TensorRT | RKNN | OpenVINO |
---|---|---|---|---|---|
目标检测 | YOLOv5 | ✅ | ✅ | ❌ | ❌ |
目标检测 | YOLOX | ✅ | ✅ | ❌ | ❌ |
目标检测 | YOLOv7 | ✅ | ✅ | ❌ | ❌ |
目标跟踪 | DeepSORT | / | / | / | / |
目标跟踪 | ByteTrack | / | / | / | / |
请参考 FAQ 获取常见问题的答案。
我们感谢所有为改进 zetton-inference 做出贡献的人。请参考 贡献指南 了解参与项目贡献的相关指引。
我们感谢所有实现自己方法或添加新功能的贡献者,以及给出有价值反馈的用户。
我们希望这个软件包和基准能够通过提供灵活的工具包来部署模型,为不断发展的研究和生产社区服务。
-
对于学术用途,该项目在 2 条款 BSD 许可证下授权,请参阅 LICENSE 文件 以获取详细信息。
-
对于商业用途,请联系 Yusu Pan。
-
zetton-inference-tensorrt:基于 TensorRT 的 Project Zetton 推理节点
-
zetton-ros-vendor: ROS 相关示例