Description
错误信息如下：
(rknn_dev) orangepi@orangepi5plus:~/Documents/04_hybrid_quantization$ python step1_helmet.py
I rknn-toolkit2 version: 2.3.0
I Loading : 100%|██████████████████████████████████████████████| 134/134 [00:00<00:00, 15294.77it/s]
I OpFusing 2 : 100%|██████████████████████████████████████████████| 100/100 [00:02<00:00, 48.28it/s]
W hybrid_quantization_step1: found outlier value, this may affect quantization accuracy
const name abs_mean abs_std outlier value
model.0.conv.weight 3.21 3.11 -20.654
I GraphPreparing : 100%|████████████████████████████████████████| 161/161 [00:00<00:00, 3343.63it/s]
I Quantizating : 100%|████████████████████████████████████████████| 161/161 [00:31<00:00, 5.04it/s]
I GraphPreparing : 100%|████████████████████████████████████████| 171/171 [00:00<00:00, 3142.75it/s]
I HybridProposal Step 1/4: 100%|█████████████████████████████████| 108/108 [00:00<00:00, 112.49it/s]
I HybridProposal Step 2/4: 100%|██████████████████████████████████| 108/108 [01:22<00:00, 1.31it/s]
I HybridProposal Step 3/4: 100%|█████████████████████████████████| 108/108 [00:00<00:00, 476.39it/s]
I HybridProposal Step 4/4: 0%| | 0/109 [00:00<?, ?it/s]
Segmentation fault (core dumped)
量化yolov8n代码如下，开启了proposal，另外，同样的方法量化yolov11n也有错误：
from rknn.api import RKNN
if name == 'main':
# 使用RKNN方法创建RKNN对象
rknn = RKNN()
# 使用config接口配置要生成的RKNN对象
rknn.config(
mean_values=[0, 0, 0],
std_values=[255, 255, 255],
target_platform='rk3588'
)
# 使用load_xxx接口加载常用深度学习模型
rknn.load_onnx(
model="./helmet_v8n.onnx",
input_size_list=[[1, 3, 640, 640]]
)
# 使用hybrid_quantization_step1接口进行混合量化的第一步
rknn.hybrid_quantization_step1(
dataset="helmet-dataset.txt", # dataset表示模型量化所需要的数据集
# rknn_batch_size=-1, # 表示自动调整模型输入batch数量
proposal=True, # 设置为True，可以自动产生混合量化的配置建议值
proposal_dataset_size=1 # 第三步骤所用的图片
)
rknn.release()