Skip to content
New issue

Have a question about this project? Sign up for a free GitHub account to open an issue and contact its maintainers and the community.

By clicking “Sign up for GitHub”, you agree to our terms of service and privacy statement. We’ll occasionally send you account related emails.

Already on GitHub? Sign in to your account

pp-shituv2主体检测模型运行到predictor_->Run()处导致arm64 Debian11板子重启 #10568

Open
wenzhu2018 opened this issue Sep 19, 2024 · 5 comments

Comments

@wenzhu2018
Copy link

为使您的问题得到快速解决,在建立 Issue 前,请您先通过如下方式搜索是否有相似问题: 历史 issue, FAQ 文档, 官方文档

建立 issue 时,为快速解决问题,请您根据使用情况给出如下信息:

  • 标题:简洁、精准描述您的问题,例如“ssd 模型转换报错”

  • 版本、环境信息:
       1)Paddle Lite 版本:请提供您的 Paddle Lite 版本号,尝试过v2.10rc、v2.12、v2.13rc、develop 9b53b4a
       2)Host 环境:请描述 Host 系统类型、OS 版本,如 RK3588 Debian11.6

  • 模型信息
       1)模型名称 pp-shituv2主体检测模型
    2)模型链接

  • 复现信息:提供 OPT 使用命令或方法,用于复现问题
    -复现环境 目标系统 OS RK3588 debian11
    PaddleDetection: 2.7和PaddleDetection: 2.3
    PaddleClas-2.5.2
    cuda 12.0
    按照官方文档: PP-ShiTu在Paddle-Lite端侧部署中的
    2.1.2 使用其他模型里的
    2.1.2.2 转换示例---转换主体检测模型和转换识别模型

  • 问题描述:请详细描述您的问题,同步贴出报错信息、日志/代码关键片段
    PP-ShiTuv2的主体检测模型picodet的inference模型通过paddlelite opt工具转成nb模型放到RK3588 arm64板子上运行,运行时直接导致RK3588 Debian11系统重启;
    用官方文档的量化nb模型运行正常,官方的量化是ppshituv2_lite_models_v1.0/mainbody_PPLCNet_x2_5_640_quant_v1.0_lite.nb 和general_PPLCNetV2_base_quant_v1.0_lite.nb。
    官方的文档里也只讲把export_model导出的inference模型用opt转换,并未涉及到主体检测模型的量化,查看代码也未看见主体检测的量化配置文件。

1、我是在RK3588 Debian11上运行的,paddle-lite试过V2.10rc、V2.12、V2.13rc和develop,还自己在RK3588 Debian特意编译了V2.13rc和develop两个版本预测库也不行,按照文档一步一凑的使用v2.10rc也不行,除了使用文档提供的量化模型,其它怎么操作都不行
2、我使用RK3588 的CPU,不涉及到它的NPU
3、代码运行到predictor_->Run() 系统重启
4、做过两端版本一致的测试,即PC机opt转换端和RK3588端的预测库是一致的,并且还试过直接在RK3588上使用opt-v2.13rc工具转换nb模型,使用v2.13rc的预测库,都一样的结果系统重启
5、使用 PaddleDetection: 2.7版本Deploy中的lite代码,在RK3588 Debian11上编译成可执行文件;模型使用picodet_s_320_coco_lcnet.pdparams,模型通过export_model.py、opt模型转换nb、convert_yml_to_json.py转换JSON,最后在板子上运行没有问题,并且图片能够被检测出结果
6、不知道PP-ShiTuv2模型按文档操作进行转换为啥不行
7、在PaddleDetection/issues提问后,他们给我确认是paddlelite问题
1726727291127

@hong19860320
Copy link
Collaborator

首先确定一下你运行的是 paddle-lite-demo 哪个 demo ?自己有修改过吗?还有,除了这个板子,在 RK3399 或 android 手机上会有问题吗?
可以把原始的 paddle 模型发上来,我们复现一下。

@wenzhu2018
Copy link
Author

开始使用的是PaddleClas-2.5.2/deploy/lite_shitu/中的Demo代码,后面使用PaddleDetection-2.7.0/deploy/lite中的Demo代码,使用ppshituv2的主体检测模型结果都一样,RK3588 Debian11重启
这两个Demo代码没有改过
板子只使用过RK3588 Debian11,其它没试
ppshituv2主体检测模型和识别模型的inference文件在服务器上python运行是没有问题的

@wenzhu2018
Copy link
Author

主体检测模型文件

@wenzhu2018
Copy link
Author

mainbody_PPLCNet_det_lite.nb.gz
去掉hou后缀gz

@zoelulur
Copy link

我和你一样的问题 卡非常久了 模型导出尝试导出w/o后处理的可以不报错 但是识别与使用转换nb前的模型对比 压根识别不准

Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment
Labels
None yet
Projects
None yet
Development

No branches or pull requests

3 participants