2.4.1. Neutron v3 架构

Neutron v3 由 1 个 NPU Core 构成，Core 内部包含 6 个 CONV、 3 个 TENG 和 3 个 SDMA。这些物理 EU 按 3 组基础资源组织，每组基础资源包含 2 个 CONV、 1 个 TENG 和 1 个 SDMA。

运行时可通过 AX_ENGINE_Init 的 AX_ENGINE_NPU_ATTR_T.eHardMode 设置虚拟 NPU 模式，决定这 3 组基础资源如何划分为 vNPU。使用 Pulsar2 编译器转换模型时可根据资源规模指定 NPU1、 NPU2 或 NPU3。

2.4.1.1. 工作模式与 npu_mode

2.4.1.1.1. AXEngine 运行时工作模式

AXEngine 工作模式	计算资源说明
AX_ENGINE_VIRTUAL_NPU_STD	1 + 1 + 1 划分方式，将 3 组基础资源划分为 3 个独立 vNPU；每个 vNPU 包含 2 个 CONV、1 个 TENG、1 个 SDMA。
AX_ENGINE_VIRTUAL_NPU_BIG_LITTLE / AX_ENGINE_VIRTUAL_NPU_LITTLE_BIG	2 + 1 或 1 + 2 划分方式；大 vNPU 占用 2 组基础资源，小 vNPU 占用 1 组基础资源。
AX_ENGINE_VIRTUAL_NPU_DISABLE	3 的划分方式，不再拆分多个 vNPU，将全部 3 组基础资源作为一个完整 NPU 资源使用。

2.4.1.1.2. 离线 npu_mode 与硬件资源

芯片平台	npu_mode	硬件计算资源对应关系
AX650	NPU1	1 组 Neutron v3 基础资源，包含 2 个 CONV、1 个 TENG、1 个 SDMA。
AX650	NPU2	2 组 Neutron v3 基础资源，包含 4 个 CONV、2 个 TENG、2 个 SDMA。
AX650	NPU3	3 组 Neutron v3 基础资源，包含 6 个 CONV、3 个 TENG、3 个 SDMA。
M76H	NPU1	1 组 Neutron v3 基础资源，包含 2 个 CONV、1 个 TENG、1 个 SDMA。
M76H	NPU2	2 组 Neutron v3 基础资源，包含 4 个 CONV、2 个 TENG、2 个 SDMA。
M76H	NPU3	3 组 Neutron v3 基础资源，包含 6 个 CONV、3 个 TENG、3 个 SDMA。