将可视化图调试引入自定义边缘编译器：Model Explorer

2026年10月20日

Alan Ma 高级软件工程师

Model Explorer 不止于高层模型图。了解 Arm 如何接入自定义编译器 IR、并排验证 NPU 委派，并将周期级性能剖析轨迹直接映射到您的执行图上。

机器学习模型在从低功耗边缘设备到游戏图形和物理 AI 系统的各类硬件上本地运行。在这些目标上高效运行模型需要量化、图降级、算子融合和硬件委派等编译步骤。

Arm 使用 Google AI Edge Model Explorer 为开发者提供对这些流水线的可见性。借助 Model Explorer 的分层图可视化和插件架构，Arm 构建了多个开源适配器，使边缘模型转换更易于检查。

挑战

将模型部署到边缘硬件时，框架变更或算子约束可能会改变导出的执行图。工程师通常需要回答三个问题：

• 结构完整性：图降级是否引入了意外的算子，例如额外的布局转置？
• 硬件委派：模型是完全委派给 NPU 或 GPU，还是不支持的子图回退到了 CPU？
• 周期级瓶颈：降级后的图中哪些节点占用最多的计算周期？

通过阅读原始 flatbuffers 或文本日志来回答这些问题很耗时，尤其是对于大型语言模型 (LLM) 和神经网络。Arm 需要一个可视化工具来检查 Arm 特定的中间表示和硬件性能剖析轨迹。

Arm 如何使用 Model Explorer 的可视化调试工作流

为应对这些部署挑战，Arm 为 Google AI Edge Model Explorer 开发了自定义适配器，以支持多种模型格式（即 TOSA、VGF 和 PTE），建立了全面的设备端优化可视化工作流。借助这些扩展，工程团队可以在模型图上直接验证导出流水线、验证加速器委派并定位周期级性能瓶颈：

1. 捕获 VGF 中隐藏的导出回归

Arm 工程师使用 Model Explorer 验证了一个通过 ExecuTorch Arm 后端导出为 Vulkan ML Extensions 的 VGF 文件的 PyTorch 训练神经超级采样 (NSS) 模型。在检查 VGF 图时，团队发现了 ExecuTorch Arm 后端变更引入的意外 TRANSPOSE 算子。

图 1：导出的 VGF 格式 NSS 模型概览，显示图分区及其与模型输入和输出的连接。

Model Explorer 使用户能够检查模型图的单个节点，例如下图所示的 rescale 算子，它显示了算子的属性和 SPIR-V 张量连接。此功能帮助 Arm 团队识别并解决了回归问题，无需手动分析原始日志文件。

图 2：NSS 图的详细视图，显示所选的 rescale 算子及其属性和 SPIR-V 输入输出连接。

2. 使用分屏视图验证 NPU 委派与 CPU 回退

为针对 Arm Ethos-U85 NPU等加速器优化视觉模型，Arm 工程师使用了 Model Explorer 的 分屏视图，并排比较 CPU 和 NPU 委托的图，用于一个 Ultralytics YOLO 模型。

分屏视图展示了结构上的差异：CPU 图显示每个单独的层，而 NPU 图将网络分组为一个位于 EthosUBackend 和 quantize 节点之间的单一 dequantize 块。对于 LiteRT 或 ExecuTorch 中部分受支持的模型，此视图有助于识别未委托的算子和被切分的子图。

图 3a：分屏视图中的 Ultralytics YOLO 模型 CPU 图

图 3b：分屏视图中的 Ultralytics YOLO 模型 NPU 图

3. 使用逐节点追踪叠加定位硬件瓶颈

为了找到 Ethos-U NPU 上的延迟瓶颈，Arm 在其 固定虚拟平台 (FVP) 模拟器上运行了他们的模型，并使用 Model Explorer 的 节点数据插件将周期精确的执行追踪叠加到图上。彩色热力图显示，单个 TRANSPOSE 节点是主要的延迟瓶颈。

图 4. 高亮的性能数据叠加，清晰地显示了瓶颈所在的位置。

如何开始

您现在就可以使用 Google AI Edge Model Explorer 以及 Arm 的开源适配器，通过 PyPI 或 GitHub 在本地检查和优化您自己的端侧模型。

1. 安装 Google AI Edge Model Explorer
2. 为您的模型格式安装适配器并启动 Model Explorer。
   1. LiteRT 适配器（内置）
   2. PyTorch 适配器（内置）
   3. Hugging Face Transformers 适配器（内置）
   4. TOSA 适配器（Arm 插件）
   5. VGF 适配器（Arm 插件）
   6. PTE 适配器（Arm 插件）
3. 请参阅 用户指南 并试用主要功能：
   1. 图导航
   2. 并排分屏视图

致谢

特别感谢 Arm 和 Google AI Edge 团队的贡献者们在这些适配器和集成方面的工作：

工程师：

• ARM：Narumol Prangnawarat、Joshua Slater、Stefana Simion、Adam Hodson、Alona Enraght-Moony、Áron Virginás-Tar、Carey Williams、Gleb Vinnychenko、Hamza Arslan、Marco Domingo、Matthew Sloyan、Michael Mc Curtin、Mitch Bailey、Richard Burton、Robert Hughes、Robert Taylor、Tomás Agustín González Orlando
• Google：Alan Ma、Eric Yang、Jing Jin、Na Li

产品经理：Charlie Stokes (ARM)、Derek Bekebrede

设计师：Ami Kubota、Ioannis Politis (ARM)、Kathleen Low、Philip Watson (ARM)

高级赞助人：Bala Gattu (ARM)、Cormac Brick、Joe Alderson (ARM)、Matthias Grundmann、Sharbani Roy (ARM)