Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

你好,我现在有一些关于帧率的问题需要向您请教 #8

Open
chenq8264 opened this issue Aug 9, 2023 · 3 comments
Open

Comments

@chenq8264
Copy link

如题,我在您的代码上修改了部分初始化的内容,目前使用 yolov8 和 yolov5 模型分别进行推理,二者帧率都在 70 帧左右, npu 的占用率最高只能达到 40%,请问有什么办法能够提高 npu 占用率,或者说能否提供下您所使用的固件,我尽可能在相同的环境进行试验

@leafqycc
Copy link
Owner

leafqycc commented Aug 9, 2023

如题,我在您的代码上修改了部分初始化的内容,目前使用 yolov8 和 yolov5 模型分别进行推理,二者帧率都在 70 帧左右, npu 的占用率最高只能达到 40%,请问有什么办法能够提高 npu 占用率,或者说能否提供下您所使用的固件,我尽可能在相同的环境进行试验

我使用的是香橙派5,8G版本,并在Ubuntu环境下进行的测试。请问你的模型是基于RK3588 NPU SDK1.5版本吗?1.5版本相较于1.4支持的算子有所增加,对于模型的性能可能会有一定的提升

@chenq8264
Copy link
Author

如题,我在您的代码上修改了部分初始化的内容,目前使用 yolov8 和 yolov5 模型分别进行推理,二者帧率都在 70 帧左右, npu 的占用率最高只能达到 40%,请问有什么办法能够提高 npu 占用率,或者说能否提供下您所使用的固件,我尽可能在相同的环境进行试验

我使用的是香橙派5,8G版本,并在Ubuntu环境下进行的测试。请问你的模型是基于RK3588 NPU SDK1.5版本吗?1.5版本相较于1.4支持的算子有所增加,对于模型的性能可能会有一定的提升

我用的是 BQ-RK3588 开发板,16G 版本,模型是我用 1.5版本的 rknpu2 转换出来的,测试系统同样也是 ubuntu,CPU、GPU、NPU 以及内存我都把频率设置为最高的那一档,帧率依旧是上不去,我在别的 issue 中有看到说 opencv 库没有 mpp 加速,请问这个有什么可能的方法吗

@leafqycc
Copy link
Owner

如题,我在您的代码上修改了部分初始化的内容,目前使用 yolov8 和 yolov5 模型分别进行推理,二者帧率都在 70 帧左右, npu 的占用率最高只能达到 40%,请问有什么办法能够提高 npu 占用率,或者说能否提供下您所使用的固件,我尽可能在相同的环境进行试验

我使用的是香橙派5,8G版本,并在Ubuntu环境下进行的测试。请问你的模型是基于RK3588 NPU SDK1.5版本吗?1.5版本相较于1.4支持的算子有所增加,对于模型的性能可能会有一定的提升

我用的是 BQ-RK3588 开发板,16G 版本,模型是我用 1.5版本的 rknpu2 转换出来的,测试系统同样也是 ubuntu,CPU、GPU、NPU 以及内存我都把频率设置为最高的那一档,帧率依旧是上不去,我在别的 issue 中有看到说 opencv 库没有 mpp 加速,请问这个有什么可能的方法吗

不做任何处理直接跑视频看看呢?如果慢在视频上,那大概就是缺少硬解

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

2 participants