4. Quick Start(AX650)#
本章节适用于以下平台：
AX650A
AX650N
AX8850
M76H
本章节介绍 ONNX 模型转换的基本操作, 使用 pulsar2 工具将 ONNX 模型编译成 axmodel 模型. 请先参考 《开发环境准备》 章节完成开发环境搭建.
本节示例模型为开源模型 MobileNetv2.
4.1. Pulsar2 工具链命令说明#
Pulsar2 工具链中的功能指令以 pulsar2 开头, 与用户强相关的命令为 pulsar2 build , pulsar2 run 以及 pulsar2 version.
pulsar2 build用于将onnx模型转换为axmodel格式模型pulsar2 run用于模型转换后的仿真运行pulsar2 version可以用于查看当前工具链的版本信息, 通常在反馈问题时需要提供此信息
root@xxx:/data# pulsar2 --help
usage: pulsar2 [-h] {version,build,run} ...
positional arguments:
{version,build,run}
optional arguments:
-h, --help show this help message and exit
4.2. 模型编译配置文件说明#
/data/config/ 路径下的 mobilenet_v2_build_config.json 展示:
{
"model_type": "ONNX",
"npu_mode": "NPU1",
"quant": {
"input_configs": [
{
"tensor_name": "input",
"calibration_dataset": "./dataset/imagenet-32-images.tar",
"calibration_size": 32,
// 校验数据集归一化的各通道均值, 通道顺序与 tensor_format 一致
"calibration_mean": [103.939, 116.779, 123.68],
// 校验数据集归一化的各通道标准差
"calibration_std": [58.0, 58.0, 58.0]
}
],
"calibration_method": "MinMax",
"precision_analysis": false
},
"input_processors": [
{
"tensor_name": "input",
"tensor_format": "BGR",
// 运行时输入格式
"src_format": "BGR",
// 运行时数据类型
"src_dtype": "U8",
// 运行时数据布局格式
"src_layout": "NHWC",
// 颜色空间转换
"csc_mode": "NoCSC"
}
],
"compiler": {
"check": 0
}
}
注意
input_processors, output_processors 及 quant 节点下 input_configs 中的 tensor_name 字段需要根据模型的实际输入/输出节点名称进行设置，也可以设置为 DEFAULT 代表当前配置应用于全部输入或者输出。
更加详细的内容，请参考 《配置文件详细说明》.
4.3. 编译执行#
以 mobilenetv2-sim.onnx 为例, 执行如下 pulsar2 build 命令编译生成 compiled.axmodel:
pulsar2 build --target_hardware AX650 --input model/mobilenetv2-sim.onnx --output_dir output --config config/mobilenet_v2_build_config.json
警告
在编译模型前，需要确保已经对原始模型使用过 onnxsim 工具优化，主要目的是将模型转变成更利于 Pulsar2 编译的静态图及获得更好的推理性能。有以下两种方法：
在
Pulsar2docker 内部直接执行命令：onnxsim in.onnx out.onnx。使用
pulsar2 build进行模型转换时，增加参数：--onnx_opt.enable_onnxsim true（默认值为 false）。
如果想要进一步了解 onnxsim ，可访问 官方网站 。
4.3.1. log 参考信息#
2025-04-28 11:30:24.756 | WARNING | yamain.command.build:fill_default:302 - apply default output processor configuration to ['output']
2025-04-28 11:30:24.756 | WARNING | yamain.command.build:fill_default:382 - ignore input csc config because of src_format is AutoColorSpace or src_format and tensor_format are the same
2025-04-28 11:30:24.757 | INFO | yamain.common.util:extract_archive:140 - extract [dataset/imagenet-32-images.tar] to [output/quant/dataset/input]...
+-------------------+----------------------------+
| Model Name | OnnxModel |
+-------------------+----------------------------+
| Model Info | Op Set: 10 / IR Version: 6 |
+-------------------+----------------------------+
| IN: input | float32: (1, 3, 224, 224) |
| OUT: output | float32: (1, 1000) |
+-------------------+----------------------------+
| Add | 10 |
| Clip | 35 |
| Conv | 52 |
| Gemm | 1 |
| GlobalAveragePool | 1 |
| Reshape | 1 |
+-------------------+----------------------------+
| Model Size | 13.32 MB |
+-------------------+----------------------------+
32 File(s) Loaded.
Building onnx ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 100% 0:00:00
2025-04-28 11:30:25.605 | INFO | yamain.command.build:quant:806 - save optimized onnx to [output/frontend/optimized.onnx]
Quant Config Table
┏━━━━━━━┳━━━━━━━━━━━┳━━━━━━━━━━━┳━━━━━━━━━━━┳━━━━━━━━━━━┳━━━━━━━━━━━┳━━━━━━━━━━┓
┃ ┃ ┃ Dataset ┃ Data ┃ Tensor ┃ ┃ ┃
┃ Input ┃ Shape ┃ Directory ┃ Format ┃ Format ┃ Mean ┃ Std ┃
┡━━━━━━━╇━━━━━━━━━━━╇━━━━━━━━━━━╇━━━━━━━━━━━╇━━━━━━━━━━━╇━━━━━━━━━━━╇━━━━━━━━━━┩
│ input │ [1, 3, │ output/q… │ Image │ BGR │ [103.939… │ [58.0, │
│ │ 224, 224] │ │ │ │ 116.7789… │ 58.0, │
│ │ │ │ │ │ 123.6800… │ 58.0] │
└───────┴───────────┴───────────┴───────────┴───────────┴───────────┴──────────┘
Transformer optimize level: 0
32 File(s) Loaded.
Stastic Inf tensor: 0%| | 0/1 [00:00<?, ?it/s]
Stastic Inf tensor: 100%|██████████| 1/1 [00:00<00:00, 7.93it/s]
Stastic Inf tensor: 100%|██████████| 1/1 [00:00<00:00, 7.92it/s]
[11:30:27] AX Set Float Op Table Pass Running ...
[11:30:27] AX Set MixPrecision Pass Running ...
[11:30:27] AX Set LN Quant dtype Quant Pass Running ...
[11:30:27] AX Reset Mul Config Pass Running ...
[11:30:27] AX Refine Operation Config Pass Running ...
[11:30:27] AX Tanh Operation Format Pass Running ...
[11:30:27] AX Confused Op Refine Pass Running ...
[11:30:27] AX Quantization Fusion Pass Running ...
[11:30:27] AX Quantization Simplify Pass Running ...
[11:30:28] AX Parameter Quantization Pass Running ...
[11:30:29] AX Runtime Calibration Pass Running ...
Calibration Progress(Phase 1): 0%| | 0/32 [00:00<?, ?it/s]
Calibration Progress(Phase 1): 3%|▎ | 1/32 [00:00<00:03, 7.75it/s]
Calibration Progress(Phase 1): 6%|▋ | 2/32 [00:00<00:03, 8.33it/s]
Calibration Progress(Phase 1): 9%|▉ | 3/32 [00:00<00:03, 8.54it/s]
Calibration Progress(Phase 1): 12%|█▎ | 4/32 [00:00<00:03, 8.61it/s]
Calibration Progress(Phase 1): 16%|█▌ | 5/32 [00:00<00:03, 8.65it/s]
Calibration Progress(Phase 1): 19%|█▉ | 6/32 [00:00<00:02, 8.69it/s]
Calibration Progress(Phase 1): 22%|██▏ | 7/32 [00:00<00:02, 8.46it/s]
Calibration Progress(Phase 1): 25%|██▌ | 8/32 [00:00<00:02, 8.59it/s]
Calibration Progress(Phase 1): 28%|██▊ | 9/32 [00:01<00:02, 8.67it/s]
Calibration Progress(Phase 1): 31%|███▏ | 10/32 [00:01<00:02, 8.71it/s]
Calibration Progress(Phase 1): 34%|███▍ | 11/32 [00:01<00:02, 8.77it/s]
Calibration Progress(Phase 1): 38%|███▊ | 12/32 [00:01<00:02, 8.68it/s]
Calibration Progress(Phase 1): 41%|████ | 13/32 [00:01<00:02, 8.74it/s]
Calibration Progress(Phase 1): 44%|████▍ | 14/32 [00:01<00:02, 8.76it/s]
Calibration Progress(Phase 1): 47%|████▋ | 15/32 [00:01<00:01, 8.77it/s]
Calibration Progress(Phase 1): 50%|█████ | 16/32 [00:01<00:01, 8.80it/s]
Calibration Progress(Phase 1): 53%|█████▎ | 17/32 [00:01<00:01, 8.81it/s]
Calibration Progress(Phase 1): 56%|█████▋ | 18/32 [00:02<00:01, 8.76it/s]
Calibration Progress(Phase 1): 59%|█████▉ | 19/32 [00:02<00:01, 8.80it/s]
Calibration Progress(Phase 1): 62%|██████▎ | 20/32 [00:02<00:01, 8.84it/s]
Calibration Progress(Phase 1): 66%|██████▌ | 21/32 [00:02<00:01, 8.82it/s]
Calibration Progress(Phase 1): 69%|██████▉ | 22/32 [00:02<00:01, 8.86it/s]
Calibration Progress(Phase 1): 72%|███████▏ | 23/32 [00:02<00:01, 8.86it/s]
Calibration Progress(Phase 1): 75%|███████▌ | 24/32 [00:02<00:00, 8.84it/s]
Calibration Progress(Phase 1): 78%|███████▊ | 25/32 [00:02<00:00, 8.59it/s]
Calibration Progress(Phase 1): 81%|████████▏ | 26/32 [00:02<00:00, 8.69it/s]
Calibration Progress(Phase 1): 84%|████████▍ | 27/32 [00:03<00:00, 8.77it/s]
Calibration Progress(Phase 1): 88%|████████▊ | 28/32 [00:03<00:00, 8.82it/s]
Calibration Progress(Phase 1): 91%|█████████ | 29/32 [00:03<00:00, 8.86it/s]
Calibration Progress(Phase 1): 94%|█████████▍| 30/32 [00:03<00:00, 8.89it/s]
Calibration Progress(Phase 1): 97%|█████████▋| 31/32 [00:03<00:00, 8.85it/s]
Calibration Progress(Phase 1): 100%|██████████| 32/32 [00:03<00:00, 8.75it/s]
Calibration Progress(Phase 1): 100%|██████████| 32/32 [00:03<00:00, 8.73it/s]
[11:30:33] AX Quantization Alignment Pass Running ...
[11:30:33] AX Refine Int Parameter Pass Running ...
[11:30:33] AX Refine Scale Pass Running ...
[11:30:33] AX Passive Parameter Quantization Running ...
[11:30:33] AX Parameter Baking Pass Running ...
--------- Network Snapshot ---------
Num of Op: [100]
Num of Quantized Op: [100]
Num of Variable: [278]
Num of Quantized Var: [278]
------- Quantization Snapshot ------
Num of Quant Config: [387]
BAKED: [53]
OVERLAPPED: [145]
ACTIVATED: [65]
SOI: [1]
PASSIVE_BAKED: [53]
FP32: [70]
Network Quantization Finished.
Do quant optimization
quant.axmodel export success:
/data/deploy/data/quick_start_example/output/quant/quant_axmodel.onnx
/data/deploy/data/quick_start_example/output/quant/quant_axmodel.data
===>export io data to folder: output/quant/debug/io
Building native ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 100% 0:00:00
2025-04-28 11:30:35.039 | INFO | yamain.command.build:compile_ptq_model:1102 - group 0 compiler transformation
2025-04-28 11:30:35.041 | WARNING | yamain.command.load_model:pre_process:615 - preprocess tensor [input]
2025-04-28 11:30:35.041 | INFO | yamain.command.load_model:pre_process:617 - tensor: input, (1, 224, 224, 3), U8
2025-04-28 11:30:35.041 | INFO | yamain.command.load_model:pre_process:618 - op: op:pre_dequant_1, AxDequantizeLinear, {'const_inputs': {'x_zeropoint': array(0, dtype=int32), 'x_scale': array(1., dtype=float32)}, 'output_dtype': <class 'numpy.float32'>, 'quant_method': 0}
2025-04-28 11:30:35.041 | INFO | yamain.command.load_model:pre_process:617 - tensor: tensor:pre_norm_1, (1, 224, 224, 3), FP32
2025-04-28 11:30:35.041 | INFO | yamain.command.load_model:pre_process:618 - op: op:pre_norm_1, AxNormalize, {'dim': 3, 'mean': [103.93900299072266, 116.77899932861328, 123.68000030517578], 'std': [58.0, 58.0, 58.0], 'output_dtype': FP32}
2025-04-28 11:30:35.041 | INFO | yamain.command.load_model:pre_process:617 - tensor: tensor:pre_transpose_1, (1, 224, 224, 3), FP32
2025-04-28 11:30:35.041 | INFO | yamain.command.load_model:pre_process:618 - op: op:pre_transpose_1, AxTranspose, {'perm': [0, 3, 1, 2]}
2025-04-28 11:30:35.042 | WARNING | yamain.command.load_model:post_process:626 - postprocess tensor [output]
2025-04-28 11:30:35.042 | INFO | yamain.command.load_model:ir_compiler_transformation:821 - use random data as gt input: input, uint8, (1, 224, 224, 3)
2025-04-28 11:30:35.434 | INFO | yamain.command.build:compile_ptq_model:1123 - group 0 QuantAxModel macs: 300,774,272
2025-04-28 11:30:35.470 | INFO | yamain.command.build:compile_ptq_model:1255 - subgraph [0], group: 0, type: GraphType.NPU
2025-04-28 11:30:35.470 | INFO | yamain.command.npu_backend_compiler:compile:173 - compile npu subgraph [0]
tiling op... ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 68/68 0:00:01
<frozen backend.ax650npu.oprimpl.normalize>:186: RuntimeWarning: divide by zero encountered in divide
<frozen backend.ax650npu.oprimpl.normalize>:187: RuntimeWarning: invalid value encountered in divide
new_ddr_tensor = []
build op serially... ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 103/103 0:00:01
build op... ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 188/188 0:00:00
add ddr swap... ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 497/497 0:00:00
calc input dependencies... ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 921/921 0:00:00
calc output dependencies... ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 921/921 0:00:00
assign eu heuristic ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 921/921 0:00:00
assign eu onepass ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 921/921 0:00:00
assign eu greedy ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 921/921 0:00:00
2025-04-28 11:30:40.871 | INFO | yasched.test_onepass:results2model:2699 - clear job deps
2025-04-28 11:30:40.871 | INFO | yasched.test_onepass:results2model:2700 - max_cycle = 450,182
build jobs ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 921/921 0:00:00
2025-04-28 11:30:41.796 | INFO | yamain.command.npu_backend_compiler:compile:233 - assemble model [0] [subgraph_npu_0] b1
2025-04-28 11:30:43.942 | INFO | yamain.command.build:compile_ptq_model:1297 - fuse 1 subgraph(s)
备注
该示例所运行的主机配置为:
Intel(R) Xeon(R) Gold 6336Y CPU @ 2.40GHz
Memory 32G
全流程耗时大约 11s , 不同配置的主机转换时间略有差异.
4.3.2. 模型编译输出文件说明#
root@xxx:/data# tree output/
output/
├── build_context.json
├── compiled.axmodel # 最终板上运行模型，AxModel
├── compiler # 编译器后端中间结果及 debug 信息
├── frontend # 前端图优化中间结果及 debug 信息
│ └── optimized.onnx # 输入模型经过图优化以后的浮点 ONNX 模型
└── quant # 量化工具输出及 debug 信息目录
├── dataset # 解压后的校准集数据目录
│ └── input
│ ├── ILSVRC2012_val_00000001.JPEG
│ ├── ......
│ └── ILSVRC2012_val_00000032.JPEG
├── debug
├── quant_axmodel.json # 量化配置信息
└── quant_axmodel.onnx # 量化后的模型，QuantAxModel
其中 compiled.axmodel 为最终编译生成的板上可运行的 .axmodel 模型文件
备注
因为 .axmodel 基于 ONNX 模型存储格式开发，所以将 .axmodel 文件后缀修改为 .axmodel.onnx 后可支持被网络模型图形化工具 Netron 直接打开。
4.3.2.1. 模型信息查询#
可以通过 onnx inspect --io ${axmodel/onnx_path} 来查看编译后 axmodel 模型的输入输出信息，还有其他 -m -n -t 参数可以查看模型里的 meta / node / tensor 信息。
root@xxx:/data# onnx inspect -m -n -t output/compiled.axmodel
Failed to check model output/compiled.axmodel, statistic could be inaccurate!
Meta information
--------------------------------------------------------------------------------
IR Version: 10
Opset Import: [domain: ""
version: 18
]
Producer name: Pulsar2
Producer version:
Domain:
Doc string: Pulsar2 Version: 4.0
Pulsar2 Commit: 64a0e58f
meta.{} = {} extra_data CgsKBWlucHV0EAEYAgoICgZvdXRwdXQSATEaQQoOc3ViZ3JhcGhfbnB1XzBSLwoVc3ViZ3JhcGhfbnB1XzBfYjFfbmV1EAEaFAoGcGFyYW1zGgpucHVfcGFyYW1zIgA=
Node information
--------------------------------------------------------------------------------
Node type "neu mode" has: 1
--------------------------------------------------------------------------------
Node "subgraph_npu_0": type "neu mode", inputs "['input']", outputs "['output']"
Tensor information
--------------------------------------------------------------------------------
ValueInfo "npu_params": type UINT8, shape [4085516],
ValueInfo "npu_dyn_params": type UINT8, shape [0],
ValueInfo "input": type UINT8, shape [1, 224, 224, 3],
ValueInfo "subgraph_npu_0_b1_neu": type UINT8, shape [57200],
ValueInfo "output": type FLOAT, shape [1, 1000],
Initializer "npu_params": type UINT8, shape [4085516],
Initializer "npu_dyn_params": type UINT8, shape [0],
Initializer "subgraph_npu_0_b1_neu": type UINT8, shape [57200],
4.4. 仿真运行#
本章节介绍 axmodel 仿真运行的基本操作, 使用 pulsar2 run 命令可以直接在 PC 上直接运行由 pulsar2 build 生成的 axmodel 模型，无需上板运行即可快速得到网络模型的运行结果。
4.4.1. 仿真运行准备#
某些模型只能支持特定的输入数据格式，模型的输出数据也是以模组特定的格式输出的。在模型仿真运行前，需要把输入数据转换成模型支持的数据格式，这部分数据操作称为 前处理 。在模型仿真运行后，需要把输出数据转换成工具可以分析查看的数据格式，这部分数据操作称为 后处理 。仿真运行时需要的 前处理 和 后处理 工具已包含在 pulsar2-run-helper 文件夹中。
pulsar2-run-helper 文件夹内容如下所示：
root@xxx:/data# ll pulsar2-run-helper/
drwxr-xr-x 2 root root 4.0K Dec 2 12:23 models/
drwxr-xr-x 5 root root 4.0K Dec 2 12:23 pulsar2_run_helper/
drwxr-xr-x 2 root root 4.0K Dec 2 12:23 sim_images/
drwxr-xr-x 2 root root 4.0K Dec 2 12:23 sim_inputs/
drwxr-xr-x 2 root root 4.0K Dec 2 12:23 sim_outputs/
-rw-r--r-- 1 root root 3.0K Dec 2 12:23 cli_classification.py
-rw-r--r-- 1 root root 4.6K Dec 2 12:23 cli_detection.py
-rw-r--r-- 1 root root 2 Dec 2 12:23 list.txt
-rw-r--r-- 1 root root 29 Dec 2 12:23 requirements.txt
-rw-r--r-- 1 root root 308 Dec 2 12:23 setup.cfg
4.4.2. 仿真运行示例 mobilenetv2#
将 《编译执行》 章节生成的 compiled.axmodel 拷贝 pulsar2-run-helper/models 路径下，并更名为 mobilenetv2.axmodel
root@xxx:/data# cp output/compiled.axmodel pulsar2-run-helper/models/mobilenetv2.axmodel
4.4.2.1. 输入数据准备#
进入 pulsar2-run-helper 目录，使用 cli_classification.py 脚本将 cat.jpg 处理成 mobilenetv2.axmodel 所需要的输入数据格式。
root@xxx:~/data# cd pulsar2-run-helper
root@xxx:~/data/pulsar2-run-helper# python3 cli_classification.py --pre_processing --image_path sim_images/cat.jpg --axmodel_path models/mobilenetv2.axmodel --intermediate_path sim_inputs/0
[I] Write [input] to 'sim_inputs/0/input.bin' successfully.
4.4.2.2. 仿真模型推理#
运行 pulsar2 run 命令，将 input.bin 作为 mobilenetv2.axmodel 的输入数据并执行推理计算，输出 output.bin 推理结果。
root@xxx:~/data/pulsar2-run-helper# pulsar2 run --model models/mobilenetv2.axmodel --input_dir sim_inputs --output_dir sim_outputs --list list.txt
Building native ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 100% 0:00:00
>>> [0] start
write [output] to [sim_outputs/0/output.bin] successfully
>>> [0] finish
4.4.2.3. 输出数据处理#
使用 cli_classification.py 脚本对仿真模型推理输出的 output.bin 数据进行后处理，得到最终计算结果。
root@xxx:/data/pulsar2-run-helper# python3 cli_classification.py --post_processing --axmodel_path models/mobilenetv2.axmodel --intermediate_path sim_outputs/0
[I] The following are the predicted score index pair.
[I] 9.5094, 285
[I] 9.3773, 282
[I] 9.2452, 281
[I] 8.5849, 283
[I] 7.6603, 287
4.5. 开发板运行#
本章节介绍如何在 AX650 M76H 开发板上运行通过 《编译执行》 章节获取 compiled.axmodel 模型.
4.5.1. 开发板获取#
通过企业途径向 AXera 签署 NDA 后获取 AX650 或 M76H EVB.
4.5.2. 使用 ax_run_model 工具快速测试模型推理速度#
为了方便用户测评模型，在开发板上预制了 ax_run_model 工具，此工具有若干参数，可以很方便地测试模型速度和精度。
将 mobilennetv2.axmodel 拷贝到开发板上，执行以下命令即可快速测试模型推理性能（首先推理 3 次进行预热，以排除资源初始化导致的统计误差，然后推理 10 次，统计平均推理速度）。
/root # ax_run_model -m mobilenetv2.axmodel -w 3 -r 10
Run AxModel:
model: mobilenetv2.axmodel
type: 1 Core
vnpu: Disable
affinity: 0b001
warmup: 3
repeat: 10
batch: { auto: 1 }
parallel: false
pulsar2 ver: 1.2-patch2 7e6b2b5f
engine ver: 2.3.0a
tool ver: 2.1.2c
cmm size: 4428624 Bytes
------------------------------------------------------
min = 0.719 ms max = 0.726 ms avg = 0.721 ms
------------------------------------------------------
4.5.3. 使用 sample_npu_classification 示例测试单张图片推理结果#
提示
该运行示例已经预装在开发板的文件系统中，其源文件位于 SDK 的 msp/sample/npu 路径下文件夹下。将 mobilennetv2.axmodel 拷贝到开发板上，使用 sample_npu_classification 进行测试。
sample_npu_classification 输入参数说明:
/root # sample_npu_classification --help
usage: sample_npu_classification --model=string --image=string [options] ...
options:
-m, --model joint file(a.k.a. joint model) (string)
-i, --image image file (string)
-g, --size input_h, input_w (string [=224,224])
-r, --repeat repeat count (int [=1])
-?, --help print this message
通过执行 sample_npu_classification 程序实现分类模型板上运行, 运行结果如下:
/root # sample_npu_classification -m mobilenetv2.axmodel -i /opt/data/npu/images/cat.jpg -r 10
--------------------------------------
model file : mobilenetv2.axmodel
image file : /opt/data/npu/images/cat.jpg
img_h, img_w : 224 224
--------------------------------------
Engine creating handle is done.
Engine creating context is done.
Engine get io info is done.
Engine alloc io is done.
Engine push input is done.
--------------------------------------
topk cost time:0.07 ms
9.5094, 285
9.3773, 282
9.2452, 281
8.5849, 283
7.6603, 287
--------------------------------------
Repeat 10 times, avg time 0.72 ms, max_time 0.72 ms, min_time 0.72 ms
--------------------------------------
从这里可知，同一个
mobilenetv2.axmodel模型在开发板上运行的结果与 《仿真运行》 的结果一致；板上可执行程序
ax_classification相关源码及编译生成详情请参考 《模型部署进阶指南》。