Skip to content

Latest commit

 

History

History
89 lines (54 loc) · 3.25 KB

README_zh-CN.md

File metadata and controls

89 lines (54 loc) · 3.25 KB

zetton-inference

English | 中文

目录

简介

zetton-inference 是一个用于深度学习推理的开源软件包。它是 Project Zetton 的一部分。

主要特性
  • 模块化设计:zetton-inference 的设计是模块化的,这意味着您可以轻松地将新的推理节点添加到包中

  • 支持多个框架:zetton-inference 支持多个深度学习推理框架,例如 ONNX、TensorRT、RKNN、OpenVINO 等

  • 高效:zetton-inference 的设计旨在高效,这意味着您可以轻松地将推理节点部署到 GPU 服务器或嵌入式设备上

  • 先进算法:zetton-inference 提供各领域的先进算法模型,如目标检测、目标跟踪等

最新进展

  • (2022-09-19) 基于 TensorRT 的推理节点已经迁移到 zetton-inference-tensorrt

  • (2022-10-08) 该仓库已转换为纯 CMake 包。

有关详细信息和发布历史,请参阅 changelog.md

有关 zetton-inference 不同版本之间的兼容性更改,请参阅 compatibility.md

安装

请参考 快速入门指南 获取安装说明。

教程

请查看 快速入门指南 以了解 zetton-inference 的基本用法。

基准测试和模型库

任务 模型 ONNX TensorRT RKNN OpenVINO
目标检测 YOLOv5
目标检测 YOLOX
目标检测 YOLOv7
目标跟踪 DeepSORT / / / /
目标跟踪 ByteTrack / / / /

常见问题

请参考 FAQ 获取常见问题的答案。

贡献指南

我们感谢所有为改进 zetton-inference 做出贡献的人。请参考 贡献指南 了解参与项目贡献的相关指引。

致谢

我们感谢所有实现自己方法或添加新功能的贡献者,以及给出有价值反馈的用户。

我们希望这个软件包和基准能够通过提供灵活的工具包来部署模型,为不断发展的研究和生产社区服务。

许可证

  • 对于学术用途,该项目在 2 条款 BSD 许可证下授权,请参阅 LICENSE 文件 以获取详细信息。

  • 对于商业用途,请联系 Yusu Pan

相关项目