# Quick Start(AX650) **本章节适用于以下平台：** - AX650A - AX650N - AX8850 - M76H 本章节介绍 `ONNX` 模型转换的基本操作, 使用 `pulsar2` 工具将 `ONNX` 模型编译成 `axmodel` 模型. 请先参考 {ref}`《开发环境准备》 ` 章节完成开发环境搭建. 本节示例模型为开源模型 `MobileNetv2`. ## Pulsar2 工具链命令说明 `Pulsar2` 工具链中的功能指令以 `pulsar2` 开头, 与用户强相关的命令为 `pulsar2 build` , `pulsar2 run` 以及 `pulsar2 version`. - `pulsar2 build` 用于将 `onnx` 模型转换为 `axmodel` 格式模型 - `pulsar2 run` 用于模型转换后的仿真运行 - `pulsar2 version` 可以用于查看当前工具链的版本信息, 通常在反馈问题时需要提供此信息 ```shell root@xxx:/data# pulsar2 --help usage: pulsar2 [-h] {version,build,run} ... positional arguments: {version,build,run} optional arguments: -h, --help show this help message and exit ``` ## 模型编译配置文件说明 `/data/config/` 路径下的 `mobilenet_v2_build_config.json` 展示: ```json { "model_type": "ONNX", "npu_mode": "NPU1", "quant": { "input_configs": [ { "tensor_name": "input", "calibration_dataset": "./dataset/imagenet-32-images.tar", "calibration_size": 32, // 校验数据集归一化的各通道均值, 通道顺序与 tensor_format 一致 "calibration_mean": [103.939, 116.779, 123.68], // 校验数据集归一化的各通道标准差 "calibration_std": [58.0, 58.0, 58.0] } ], "calibration_method": "MinMax", "precision_analysis": false }, "input_processors": [ { "tensor_name": "input", "tensor_format": "BGR", // 运行时输入格式 "src_format": "BGR", // 运行时数据类型 "src_dtype": "U8", // 运行时数据布局格式 "src_layout": "NHWC", // 颜色空间转换 "csc_mode": "NoCSC" } ], "compiler": { "check": 0 } } ``` ::::{attention} `input_processors`, `output_processors` 及 `quant` 节点下 `input_configs` 中的 `tensor_name` 字段需要根据模型的实际输入/输出节点名称进行设置，也可以设置为 `DEFAULT` 代表当前配置应用于全部输入或者输出。 :::{figure} ../media/tensor_name.png :align: center :alt: pipeline ::: :::: 更加详细的内容，请参考 {ref}`《配置文件详细说明》 `. (model_compile)= ## 编译执行 以 `mobilenetv2-sim.onnx` 为例, 执行如下 `pulsar2 build` 命令编译生成 `compiled.axmodel`: ```shell pulsar2 build --target_hardware AX650 --input model/mobilenetv2-sim.onnx --output_dir output --config config/mobilenet_v2_build_config.json ``` :::{warning} 在编译模型前，需要确保已经对原始模型使用过 `onnxsim` 工具优化，主要目的是将模型转变成更利于 `Pulsar2` 编译的静态图及获得更好的推理性能。有以下两种方法： 1. 在 `Pulsar2` docker 内部直接执行命令：`onnxsim in.onnx out.onnx`。 2. 使用 `pulsar2 build` 进行模型转换时，增加参数：`--onnx_opt.enable_onnxsim true` （默认值为 false）。 如果想要进一步了解 `onnxsim` ，可访问 [官方网站](https://github.com/daquexian/onnx-simplifier) 。 ::: ### log 参考信息 ``` 2025-04-28 11:30:24.756 | WARNING | yamain.command.build:fill_default:302 - apply default output processor configuration to ['output'] 2025-04-28 11:30:24.756 | WARNING | yamain.command.build:fill_default:382 - ignore input csc config because of src_format is AutoColorSpace or src_format and tensor_format are the same 2025-04-28 11:30:24.757 | INFO | yamain.common.util:extract_archive:140 - extract [dataset/imagenet-32-images.tar] to [output/quant/dataset/input]... +-------------------+----------------------------+ | Model Name | OnnxModel | +-------------------+----------------------------+ | Model Info | Op Set: 10 / IR Version: 6 | +-------------------+----------------------------+ | IN: input | float32: (1, 3, 224, 224) | | OUT: output | float32: (1, 1000) | +-------------------+----------------------------+ | Add | 10 | | Clip | 35 | | Conv | 52 | | Gemm | 1 | | GlobalAveragePool | 1 | | Reshape | 1 | +-------------------+----------------------------+ | Model Size | 13.32 MB | +-------------------+----------------------------+ 32 File(s) Loaded. Building onnx ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 100% 0:00:00 2025-04-28 11:30:25.605 | INFO | yamain.command.build:quant:806 - save optimized onnx to [output/frontend/optimized.onnx] Quant Config Table ┏━━━━━━━┳━━━━━━━━━━━┳━━━━━━━━━━━┳━━━━━━━━━━━┳━━━━━━━━━━━┳━━━━━━━━━━━┳━━━━━━━━━━┓ ┃ ┃ ┃ Dataset ┃ Data ┃ Tensor ┃ ┃ ┃ ┃ Input ┃ Shape ┃ Directory ┃ Format ┃ Format ┃ Mean ┃ Std ┃ ┡━━━━━━━╇━━━━━━━━━━━╇━━━━━━━━━━━╇━━━━━━━━━━━╇━━━━━━━━━━━╇━━━━━━━━━━━╇━━━━━━━━━━┩ │ input │ [1, 3, │ output/q… │ Image │ BGR │ [103.939… │ [58.0, │ │ │ 224, 224] │ │ │ │ 116.7789… │ 58.0, │ │ │ │ │ │ │ 123.6800… │ 58.0] │ └───────┴───────────┴───────────┴───────────┴───────────┴───────────┴──────────┘ Transformer optimize level: 0 32 File(s) Loaded. Stastic Inf tensor: 0%| | 0/1 [00:00export io data to folder: output/quant/debug/io Building native ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 100% 0:00:00 2025-04-28 11:30:35.039 | INFO | yamain.command.build:compile_ptq_model:1102 - group 0 compiler transformation 2025-04-28 11:30:35.041 | WARNING | yamain.command.load_model:pre_process:615 - preprocess tensor [input] 2025-04-28 11:30:35.041 | INFO | yamain.command.load_model:pre_process:617 - tensor: input, (1, 224, 224, 3), U8 2025-04-28 11:30:35.041 | INFO | yamain.command.load_model:pre_process:618 - op: op:pre_dequant_1, AxDequantizeLinear, {'const_inputs': {'x_zeropoint': array(0, dtype=int32), 'x_scale': array(1., dtype=float32)}, 'output_dtype': , 'quant_method': 0} 2025-04-28 11:30:35.041 | INFO | yamain.command.load_model:pre_process:617 - tensor: tensor:pre_norm_1, (1, 224, 224, 3), FP32 2025-04-28 11:30:35.041 | INFO | yamain.command.load_model:pre_process:618 - op: op:pre_norm_1, AxNormalize, {'dim': 3, 'mean': [103.93900299072266, 116.77899932861328, 123.68000030517578], 'std': [58.0, 58.0, 58.0], 'output_dtype': FP32} 2025-04-28 11:30:35.041 | INFO | yamain.command.load_model:pre_process:617 - tensor: tensor:pre_transpose_1, (1, 224, 224, 3), FP32 2025-04-28 11:30:35.041 | INFO | yamain.command.load_model:pre_process:618 - op: op:pre_transpose_1, AxTranspose, {'perm': [0, 3, 1, 2]} 2025-04-28 11:30:35.042 | WARNING | yamain.command.load_model:post_process:626 - postprocess tensor [output] 2025-04-28 11:30:35.042 | INFO | yamain.command.load_model:ir_compiler_transformation:821 - use random data as gt input: input, uint8, (1, 224, 224, 3) 2025-04-28 11:30:35.434 | INFO | yamain.command.build:compile_ptq_model:1123 - group 0 QuantAxModel macs: 300,774,272 2025-04-28 11:30:35.470 | INFO | yamain.command.build:compile_ptq_model:1255 - subgraph [0], group: 0, type: GraphType.NPU 2025-04-28 11:30:35.470 | INFO | yamain.command.npu_backend_compiler:compile:173 - compile npu subgraph [0] tiling op... ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 68/68 0:00:01 :186: RuntimeWarning: divide by zero encountered in divide :187: RuntimeWarning: invalid value encountered in divide new_ddr_tensor = [] build op serially... ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 103/103 0:00:01 build op... ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 188/188 0:00:00 add ddr swap... ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 497/497 0:00:00 calc input dependencies... ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 921/921 0:00:00 calc output dependencies... ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 921/921 0:00:00 assign eu heuristic ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 921/921 0:00:00 assign eu onepass ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 921/921 0:00:00 assign eu greedy ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 921/921 0:00:00 2025-04-28 11:30:40.871 | INFO | yasched.test_onepass:results2model:2699 - clear job deps 2025-04-28 11:30:40.871 | INFO | yasched.test_onepass:results2model:2700 - max_cycle = 450,182 build jobs ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 921/921 0:00:00 2025-04-28 11:30:41.796 | INFO | yamain.command.npu_backend_compiler:compile:233 - assemble model [0] [subgraph_npu_0] b1 2025-04-28 11:30:43.942 | INFO | yamain.command.build:compile_ptq_model:1297 - fuse 1 subgraph(s) ``` :::{note} 该示例所运行的主机配置为: > - Intel(R) Xeon(R) Gold 6336Y CPU @ 2.40GHz > - Memory 32G 全流程耗时大约 `11s` , 不同配置的主机转换时间略有差异. ::: ### 模型编译输出文件说明 ```shell root@xxx:/data# tree output/ output/ ├── build_context.json ├── compiled.axmodel # 最终板上运行模型，AxModel ├── compiler # 编译器后端中间结果及 debug 信息 ├── frontend # 前端图优化中间结果及 debug 信息 │ └── optimized.onnx # 输入模型经过图优化以后的浮点 ONNX 模型 └── quant # 量化工具输出及 debug 信息目录 ├── dataset # 解压后的校准集数据目录 │   └── input │   ├── ILSVRC2012_val_00000001.JPEG │   ├── ...... │   └── ILSVRC2012_val_00000032.JPEG ├── debug ├── quant_axmodel.json # 量化配置信息 └── quant_axmodel.onnx # 量化后的模型，QuantAxModel ``` 其中 `compiled.axmodel` 为最终编译生成的板上可运行的 `.axmodel` 模型文件 ::::{note} 因为 `.axmodel` 基于 **ONNX** 模型存储格式开发，所以将 `.axmodel` 文件后缀修改为 `.axmodel.onnx` 后可支持被网络模型图形化工具 **Netron** 直接打开。 :::{figure} ../media/axmodel-netron.png :align: center :alt: pipeline ::: :::: #### 模型信息查询 可以通过 `onnx inspect --io ${axmodel/onnx_path}` 来查看编译后 `axmodel` 模型的输入输出信息，还有其他 `-m -n -t` 参数可以查看模型里的 `meta / node / tensor` 信息。 ```shell root@xxx:/data# onnx inspect -m -n -t output/compiled.axmodel Failed to check model output/compiled.axmodel, statistic could be inaccurate! Meta information -------------------------------------------------------------------------------- IR Version: 10 Opset Import: [domain: "" version: 18 ] Producer name: Pulsar2 Producer version: Domain: Doc string: Pulsar2 Version: 4.0 Pulsar2 Commit: 64a0e58f meta.{} = {} extra_data CgsKBWlucHV0EAEYAgoICgZvdXRwdXQSATEaQQoOc3ViZ3JhcGhfbnB1XzBSLwoVc3ViZ3JhcGhfbnB1XzBfYjFfbmV1EAEaFAoGcGFyYW1zGgpucHVfcGFyYW1zIgA= Node information -------------------------------------------------------------------------------- Node type "neu mode" has: 1 -------------------------------------------------------------------------------- Node "subgraph_npu_0": type "neu mode", inputs "['input']", outputs "['output']" Tensor information -------------------------------------------------------------------------------- ValueInfo "npu_params": type UINT8, shape [4085516], ValueInfo "npu_dyn_params": type UINT8, shape [0], ValueInfo "input": type UINT8, shape [1, 224, 224, 3], ValueInfo "subgraph_npu_0_b1_neu": type UINT8, shape [57200], ValueInfo "output": type FLOAT, shape [1, 1000], Initializer "npu_params": type UINT8, shape [4085516], Initializer "npu_dyn_params": type UINT8, shape [0], Initializer "subgraph_npu_0_b1_neu": type UINT8, shape [57200], ``` (model_simulator)= ## 仿真运行 本章节介绍 `axmodel` 仿真运行的基本操作, 使用 `pulsar2 run` 命令可以直接在 `PC` 上直接运行由 `pulsar2 build` 生成的 `axmodel` 模型，无需上板运行即可快速得到网络模型的运行结果。 ### 仿真运行准备 某些模型只能支持特定的输入数据格式，模型的输出数据也是以模组特定的格式输出的。在模型仿真运行前，需要把输入数据转换成模型支持的数据格式，这部分数据操作称为 `前处理` 。在模型仿真运行后，需要把输出数据转换成工具可以分析查看的数据格式，这部分数据操作称为 `后处理` 。仿真运行时需要的 `前处理` 和 `后处理` 工具已包含在 `pulsar2-run-helper` 文件夹中。 `pulsar2-run-helper` 文件夹内容如下所示： ```shell root@xxx:/data# ll pulsar2-run-helper/ drwxr-xr-x 2 root root 4.0K Dec 2 12:23 models/ drwxr-xr-x 5 root root 4.0K Dec 2 12:23 pulsar2_run_helper/ drwxr-xr-x 2 root root 4.0K Dec 2 12:23 sim_images/ drwxr-xr-x 2 root root 4.0K Dec 2 12:23 sim_inputs/ drwxr-xr-x 2 root root 4.0K Dec 2 12:23 sim_outputs/ -rw-r--r-- 1 root root 3.0K Dec 2 12:23 cli_classification.py -rw-r--r-- 1 root root 4.6K Dec 2 12:23 cli_detection.py -rw-r--r-- 1 root root 2 Dec 2 12:23 list.txt -rw-r--r-- 1 root root 29 Dec 2 12:23 requirements.txt -rw-r--r-- 1 root root 308 Dec 2 12:23 setup.cfg ``` ### 仿真运行示例 `mobilenetv2` 将 {ref}`《编译执行》 ` 章节生成的 `compiled.axmodel` 拷贝 `pulsar2-run-helper/models` 路径下，并更名为 `mobilenetv2.axmodel` ```shell root@xxx:/data# cp output/compiled.axmodel pulsar2-run-helper/models/mobilenetv2.axmodel ``` #### 输入数据准备 进入 `pulsar2-run-helper` 目录，使用 `cli_classification.py` 脚本将 `cat.jpg` 处理成 `mobilenetv2.axmodel` 所需要的输入数据格式。 ```shell root@xxx:~/data# cd pulsar2-run-helper root@xxx:~/data/pulsar2-run-helper# python3 cli_classification.py --pre_processing --image_path sim_images/cat.jpg --axmodel_path models/mobilenetv2.axmodel --intermediate_path sim_inputs/0 [I] Write [input] to 'sim_inputs/0/input.bin' successfully. ``` #### 仿真模型推理 运行 `pulsar2 run` 命令，将 `input.bin` 作为 `mobilenetv2.axmodel` 的输入数据并执行推理计算，输出 `output.bin` 推理结果。 ```shell root@xxx:~/data/pulsar2-run-helper# pulsar2 run --model models/mobilenetv2.axmodel --input_dir sim_inputs --output_dir sim_outputs --list list.txt Building native ━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━ 100% 0:00:00 >>> [0] start write [output] to [sim_outputs/0/output.bin] successfully >>> [0] finish ``` #### 输出数据处理 使用 `cli_classification.py` 脚本对仿真模型推理输出的 `output.bin` 数据进行后处理，得到最终计算结果。 ```shell root@xxx:/data/pulsar2-run-helper# python3 cli_classification.py --post_processing --axmodel_path models/mobilenetv2.axmodel --intermediate_path sim_outputs/0 [I] The following are the predicted score index pair. [I] 9.5094, 285 [I] 9.3773, 282 [I] 9.2452, 281 [I] 8.5849, 283 [I] 7.6603, 287 ``` (onboard_running)= ## 开发板运行 本章节介绍如何在 `AX650` `M76H` 开发板上运行通过 {ref}`《编译执行》 ` 章节获取 `compiled.axmodel` 模型. ### 开发板获取 - 通过企业途径向 AXera 签署 NDA 后获取 **AX650 或 M76H EVB**. ### 使用 ax_run_model 工具快速测试模型推理速度 为了方便用户测评模型，在开发板上预制了 {ref}`ax_run_model ` 工具，此工具有若干参数，可以很方便地测试模型速度和精度。 将 `mobilennetv2.axmodel` 拷贝到开发板上，执行以下命令即可快速测试模型推理性能（首先推理 3 次进行预热，以排除资源初始化导致的统计误差，然后推理 10 次，统计平均推理速度）。 ```shell /root # ax_run_model -m mobilenetv2.axmodel -w 3 -r 10 Run AxModel: model: mobilenetv2.axmodel type: 1 Core vnpu: Disable affinity: 0b001 warmup: 3 repeat: 10 batch: { auto: 1 } parallel: false pulsar2 ver: 1.2-patch2 7e6b2b5f engine ver: 2.3.0a tool ver: 2.1.2c cmm size: 4428624 Bytes ------------------------------------------------------ min = 0.719 ms max = 0.726 ms avg = 0.721 ms ------------------------------------------------------ ``` ### 使用 sample_npu_classification 示例测试单张图片推理结果 :::{hint} 该运行示例已经预装在开发板的文件系统中，其源文件位于 SDK 的 `msp/sample/npu` 路径下文件夹下。将 `mobilennetv2.axmodel` 拷贝到开发板上，使用 `sample_npu_classification` 进行测试。 ::: `sample_npu_classification` 输入参数说明: ```shell /root # sample_npu_classification --help usage: sample_npu_classification --model=string --image=string [options] ... options: -m, --model joint file(a.k.a. joint model) (string) -i, --image image file (string) -g, --size input_h, input_w (string [=224,224]) -r, --repeat repeat count (int [=1]) -?, --help print this message ``` 通过执行 `sample_npu_classification` 程序实现分类模型板上运行, 运行结果如下: ```shell /root # sample_npu_classification -m mobilenetv2.axmodel -i /opt/data/npu/images/cat.jpg -r 10 -------------------------------------- model file : mobilenetv2.axmodel image file : /opt/data/npu/images/cat.jpg img_h, img_w : 224 224 -------------------------------------- Engine creating handle is done. Engine creating context is done. Engine get io info is done. Engine alloc io is done. Engine push input is done. -------------------------------------- topk cost time:0.07 ms 9.5094, 285 9.3773, 282 9.2452, 281 8.5849, 283 7.6603, 287 -------------------------------------- Repeat 10 times, avg time 0.72 ms, max_time 0.72 ms, min_time 0.72 ms -------------------------------------- ``` - 从这里可知，同一个 `mobilenetv2.axmodel` 模型在开发板上运行的结果与 {ref}`《仿真运行》 ` 的结果一致； - 板上可执行程序 `ax_classification` 相关源码及编译生成详情请参考 {ref}`《模型部署进阶指南》 `。