PyPTO 核心术语体系解析从 PTO 编程范式到多级图编译流水线【免费下载链接】pyptoPyPTO发音: pai p-t-oParallel Tensor/Tile Operation编程范式。项目地址: https://gitcode.com/cann/pyptoPyPTO发音 pai p-t-o是 CANN 采用 PTO 编程范式的高性能编程框架以 Tensor 为基本表达单位、以 Operation 组装计算流程通过 Tensor Graph → Tile Graph → Block Graph → Execute Graph 的四级图结构逐层降级最终生成可在昇腾 AI Core 上执行的物理内核。本文以官方术语表为主线结合仓库源码与示例系统拆解 PyPTO 的核心概念、各图阶段的职责边界、TileShape 的配置方法以及合图与 stitch 等关键优化手段帮助算子开发者建立起从写算子到硬件执行的完整认知框架。编程范式根基PyPTO 与 PTOPyPTO是 CANN 采用 PTO 编程范式的高性能编程框架核心目标是在简化算子开发流程的同时保留高性能计算能力。它把复杂的分块Tiling、内存层级管理、指令调度等底层细节尽可能交给编译框架自动处理让开发者把精力集中在计算逻辑本身。PTOParallel Tensor/Tile Operation并行张量/分块操作是一种基于 Tensor 的编程范式其核心思想是将Tensor作为数据的基本表达方式通过一系列对 Tensor 的基本运算来描述并组装完整的计算流程或计算图。与传统的逐元素scalar编程范式不同PTO 从抽象描述层面就以张量整体运算为粒度天然契合昇腾硬件的向量/矩阵计算单元特性。仓库中 python/pypto/tensor.py 提供的Tensor类型支持add、mul、matmul、softmax、sigmoid等丰富的张量级运算正是这一范式的直接体现。基本单元Operation、计算图与四级图结构Operation是 PyPTO 中描述计算图中基本运算的单元。每个 Operation 定义了一个具体的计算逻辑能够处理输入 Tensor 并生成输出 Tensor。通过组合不同的 Operation可以实现复杂的计算逻辑。仓库 python/pypto/op/ 目录下按类别组织了大量算子实现例如 matmul.py、conv.py、reduction.py 等这些就是 Operation 在 Python 侧的落地。计算图在术语表中被定义为PyPTO 程序从抽象计算描述到硬件执行的完整编译流程。实际编译过程中这一流程通过四种不同粒度的图逐步展开每一级图解决不同层次的问题图类型节点构成语义层次典型优化Tensor GraphTensor Operation 节点高层计算逻辑表达不涉及 Tile 展开与内存层级冗余节点消除、常量折叠等硬件无关的通用图优化Tile GraphTile TileOpTensor 按 TileShape 展开后的分块计算存储位置推导、内存搬运节点插入Block Graph子图可调度到单个 AI Core硬件相关优化指令编排、片上内存分配、同步操作插入Execute Graph编译最终产物描述 Block Graph 间依赖关系供设备调度器执行调度执行Tensor Graph与硬件无关的高层描述Tensor Graph 由 Tensor 和 Operation 节点构成用于描述用户定义的计算流程。该图不涉及 Tile 展开与内存层级等底层语义仅作为高层计算逻辑的表达。基于 Tensor Graph 的优化主要集中在与硬件无关的通用图优化技术上例如冗余节点消除、常量折叠等。仓库中的对应实现位于 framework/src/passes/tensor_graph_pass/其统计信息在 framework/src/passes/statistics/tensor_and_tile_graph_statistic.cpp 中统一观测。Tile Graph按 TileShape 展开并推导存储位置Tile Graph 由 Tile 和 TileOp 构成。Tensor Graph 根据TileShape展开将 Tensor 分解为 Tile将 Operation 分解为 TileOp。Tile Graph 的关键职责有二依据 TileOp 信息以及目标硬件的内存层级自动推导 Tile 的存储位置在必要时插入内存搬运节点确保数据在不同内存层级之间正确传输。实现位于 framework/src/passes/tile_graph_pass/例如其中 graph_partition/l1_copy_reuse.cpp 处理 L1 内存的拷贝复用正是内存层级感知的具体体现。Block Graph面向单 AI Core 的调度单元Block Graph 通过将 Tile Graph 切分为多个子图使得每个子图可以调度运行在单个 AI Core 上。Block Graph 用于硬件相关的优化包括指令编排instruction scheduling片上内存分配on-chip memory allocation同步操作插入synchronization insertion。这些优化直接作用于硬件执行效率。实现位于 framework/src/passes/block_graph_pass/。Execute Graph编译流程的最终产物Execute Graph 是编译流程的最终产物整合了所有优化结果精确描述各 Block Graph 之间的依赖关系用于设备调度器的调度执行。从源码结构看编译流水线通过 framework/src/passes/pass_interface/pass.cpp 中定义的 Pass 接口逐级驱动上述图变换形成高层描述 → 硬件相关优化 → 可执行产物的完整降级链路。TileShape决定并行粒度与数据划分的分块参数TileShape是 PyPTO 中用于定义张量分块Tiling形状的参数决定了操作在硬件上的并行粒度与数据划分模式。通过合理配置 TileShape可以优化内存使用与计算效率使计算过程更好地适配硬件特性。底层数据结构从源码 framework/include/tilefwk/tile_shape.h 看TileShape结构体内部按算子类型维护了多种分块描述VecTile面向逐元素elementwise运算的向量分块即std::vectorint64_t tileCubeTile面向矩阵乘matmul运算维护m、k、n三组分块大小其中m[0]、k[0]、n[0]对应 L0 Cachem[1]、k[1]、n[1]对应 L1 Cache并带有enableSplitK标志支持 K 维切分ConvTile / ConvBpTile面向卷积与卷积反向输入运算分别封装TileL1Info与TileL0InfoDistTile面向分布式运算维护 row/col/rank 划分与rankId。此外TileShape还维护了matrixSize矩阵规模并提供Current()静态方法访问当前全局 TileShape。Python 侧配置接口Python 侧通过 python/pypto/config.py 暴露了对应的配置 API由_controller.py等底层绑定实现接口适用场景参数说明set_vec_tile_shapes(*shapes)向量/逐元素运算变长分块尺寸set_cube_tile_shapes(m, k, n, enable_split_kFalse)矩阵乘运算m/k/n 各为一组分块列表enable_split_k控制 K 维切分set_conv_tile_shapes(tile_l1_info, tile_l0_infoNone)卷积运算L1/L0 两级分块信息set_convbp_input_tile_shapes(...)卷积反向输入对应ConvBpTile的两级信息set_matrix_size(size)矩阵规模声明用于辅助分块推导实战示例matmul 的 Cube 分块配置在仓库示例 examples/01_beginner/compute/matmul_ops.py 中多个 matmul 内核在进入pypto.frontend.jit装饰的 kernel 之前均通过如下方式显式配置 Cube 分块pypto.set_cube_tile_shapes([32, 32], [64, 64], [64, 64])其中第一个列表[32, 32]对应 m 的 L0/L1 两级分块第二个[64, 64]对应 k 的 L0/L1 分块第三个[64, 64]对应 n 的 L0/L1 分块。开发者需要根据算子形状与硬件缓存容量权衡选择分块过大可能导致片上内存不足分块过小则并行粒度不足、难以打满计算单元。PyPTO 的 Tile Graph 阶段会基于该配置将 Tensor 分解为 Tile 并自动完成存储位置推导与搬运节点插入。Pass计算图的编译优化阶段Pass是 PyPTO 中用于编译优化计算图的阶段以提升计算图的执行效率和硬件利用率。每个 Pass 可以对计算图进行特定的优化操作例如图简化、算子融合、调度优化等。多个 Pass 按既定顺序组合成流水线pipeline作用于不同阶段的图结构。从仓库结构看Pass 体系相当完整主要分布在 framework/src/passes/ 下包括tensor_graph_pass/作用于 Tensor Graph 的高层通用优化tile_graph_pass/作用于 Tile Graph 的分块与内存相关优化block_graph_pass/作用于 Block Graph 的指令编排与内存分配优化pass_interface/定义 Pass 的统一接口见 pass.cpppass_mgr/Pass 管理与调度机制。开发者可通过 python/pypto/pass_config.py 提供的get_pass_config/set_pass_config/set_pass_default_config等接口按策略strategy与标识符identifier精确控制单个 Pass 的开关与参数。此外 python/pypto/config.py 中的set_pass_options支持对向量缓冲区数量vec_nbuffer_setting、Cube L1 复用cube_l1_reuse_setting等关键 Pass 参数进行调优这些参数即围绕下面要讲的合图结果以 hashorder 为键进行配置。合图、同构子图与 hashorder合图是指将计算图中多个逻辑上独立的 Operation 合并为一个逻辑子图并由该子图最终生成一个**物理计算内核Kernel**的过程主要分为两类深度方向合图沿计算图的数据依赖链纵向合并减少内核间数据交换广度方向合图在图的同一层将结构相似、互不依赖的片段横向合并提升并行度与资源复用。同构子图指在计算图中拓扑结构、算子类型完全一致的局部片段。多个互为同构的片段构成同构子图组。在广度方向合图 Pass 处理过程中会为每一组同构子图生成一个唯一的特征标识即 hashorder。hashorder 在仓库中不仅是合图过程的内部标识还暴露为外部配置的索引键在 python/pypto/config.py 中vec_nbuffer_setting、cube_l1_reuse_setting、cube_nbuffer_setting等 Pass 选项的键均可使用 hashorderDict[Union[int, str], int]形式来精确指定对某一组同构子图采用何种 buffer 配置。同时该文件通过_validate_hash_order_settingconfig.py对配置合法性进行校验并提供了funcN_M形式的 hashorder 命名模式识别见 config.py 附近的正则^func\d_\d$。stitch跨循环的任务缝合优化stitch是指打破多个 loop 循环的边界将没有依赖关系的多个 leaf function 执行任务缝合成一个大任务统一下发从而减少同步开销、提升调度性能。其本质是通过扩大单次下发的任务粒度降低任务切换与同步等待带来的开销。仓库在 python/pypto/experimental/runtime.py 中提供了实验性的运行时配置接口set_runtime_options(stitch_function_num_per_pool...)from pypto.experimental.runtime import set_runtime_options # 三个数值分别对应三个 Workspace 内存池的 stitch 深度 # [root_inner, assemble_outcast, exclusive_outcast] set_runtime_options(stitch_function_num_per_pool[2, 2, 0])该参数需传入一个长度为 3 的整数列表每个元素的取值范围为 [0, 1024]分别控制 root_inner、assemble_outcast、exclusive_outcast 三个 Workspace 内存池的缝合深度。默认值为[0, 0, 0]即关闭该精确 Workspace 模式任一元素非零即开启对应池的 stitch。源码中的_validate_stitch_function_num_per_poolruntime.py会严格校验列表长度与取值范围非法输入将抛出ValueError。该功能属于实验特性后续版本可能调整或移除使用时需关注版本兼容性。泳道图调度执行过程的直观可视化泳道图用于直观展示计算图的实际调度与执行过程。通过 IDE 的可视化界面开发者可以观察数据流动路径数据在各内存层级、各 AI Core 之间的搬运轨迹操作间的依赖关系哪些任务可以并行、哪些必须串行等待可能的性能瓶颈定位空闲等待、负载不均、搬运耗时等关键问题。泳道图与术语表中的 Execute Graph 一脉相承——Execute Graph 精确描述 Block Graph 间的依赖关系而泳道图则是该调度结果在时间轴上的可视化呈现。仓库 tools/profiling/draw_swim_lane.py 提供了泳道图绘制工具tools/gen_swimlane.sh 则封装了生成流程开发者可结合性能剖析数据如 tools/profiling/ 下的各类 trace 解析工具生成自己的泳道图从而更高效地分析和优化算子的执行性能。小结一条从描述到执行的完整链路将上述术语串联起来可以清晰看到 PyPTO 的完整工作链路开发者以PTO 范式编写算子——用Tensor表达数据用Operation组装计算逻辑形成计算图前端将用户计算构建为Tensor Graph与硬件无关的高层描述在其上执行通用图优化根据TileShape将 Tensor 展开为 Tile、Operation 展开为 TileOp得到Tile Graph自动完成存储位置推导与内存搬运将 Tile Graph 切分为可在单个 AI Core 上运行的子图得到Block Graph进行指令编排、片上内存分配与同步插入经Pass流水线持续优化包括合图——借助同构子图组与hashorder标识实现算子融合以及stitch跨循环任务缝合最终产出Execute Graph由设备调度器执行开发者可通过泳道图直观审视调度与瓶颈。对于算子开发者而言掌握这套术语体系的价值在于知道写出来的 Python 算子代码如何一步步变成在硬件上高效运行的指令序列从而在性能调优时能准确判断问题出在分块TileShape配置、内存搬运Tile Graph、指令编排Block Graph还是任务调度stitch/Execute Graph层面有的放矢地进行优化。延伸阅读编程范式与 API 基础python/pypto/tensor.py、python/pypto/op/matmul.py分块配置实现framework/include/tilefwk/tile_shape.h、python/pypto/config.py编译流水线与 Pass 体系framework/src/passes/、python/pypto/pass_config.py算子实战示例examples/01_beginner/compute/matmul_ops.py、examples/02_intermediate/性能可视化工具tools/profiling/draw_swim_lane.py【免费下载链接】pyptoPyPTO发音: pai p-t-oParallel Tensor/Tile Operation编程范式。项目地址: https://gitcode.com/cann/pypto创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 
长河君 · 2026/9/19 4:26:21 · 阅读 1.2k PyPTO 核心术语体系解析：从 PTO 编程范式到多级图编译流水线
PyPTO 核心术语体系解析从 PTO 编程范式到多级图编译流水线【免费下载链接】pyptoPyPTO发音: pai p-t-oParallel Tensor/Tile Operation编程范式。项目地址: https://gitcode.com/cann/pyptoPyPTO发音 pai p-t-o是 CANN 采用 PTO 编程范式的高性能编程框架以 Tensor 为基本表达单位、以 Operation 组装计算流程通过 Tensor Graph → Tile Graph → Block Graph → Execute Graph 的四级图结构逐层降级最终生成可在昇腾 AI Core 上执行的物理内核。本文以官方术语表为主线结合仓库源码与示例系统拆解 PyPTO 的核心概念、各图阶段的职责边界、TileShape 的配置方法以及合图与 stitch 等关键优化手段帮助算子开发者建立起从写算子到硬件执行的完整认知框架。编程范式根基PyPTO 与 PTOPyPTO是 CANN 采用 PTO 编程范式的高性能编程框架核心目标是在简化算子开发流程的同时保留高性能计算能力。它把复杂的分块Tiling、内存层级管理、指令调度等底层细节尽可能交给编译框架自动处理让开发者把精力集中在计算逻辑本身。PTOParallel Tensor/Tile Operation并行张量/分块操作是一种基于 Tensor 的编程范式其核心思想是将Tensor作为数据的基本表达方式通过一系列对 Tensor 的基本运算来描述并组装完整的计算流程或计算图。与传统的逐元素scalar编程范式不同PTO 从抽象描述层面就以张量整体运算为粒度天然契合昇腾硬件的向量/矩阵计算单元特性。仓库中 python/pypto/tensor.py 提供的Tensor类型支持add、mul、matmul、softmax、sigmoid等丰富的张量级运算正是这一范式的直接体现。基本单元Operation、计算图与四级图结构Operation是 PyPTO 中描述计算图中基本运算的单元。每个 Operation 定义了一个具体的计算逻辑能够处理输入 Tensor 并生成输出 Tensor。通过组合不同的 Operation可以实现复杂的计算逻辑。仓库 python/pypto/op/ 目录下按类别组织了大量算子实现例如 matmul.py、conv.py、reduction.py 等这些就是 Operation 在 Python 侧的落地。计算图在术语表中被定义为PyPTO 程序从抽象计算描述到硬件执行的完整编译流程。实际编译过程中这一流程通过四种不同粒度的图逐步展开每一级图解决不同层次的问题图类型节点构成语义层次典型优化Tensor GraphTensor Operation 节点高层计算逻辑表达不涉及 Tile 展开与内存层级冗余节点消除、常量折叠等硬件无关的通用图优化Tile GraphTile TileOpTensor 按 TileShape 展开后的分块计算存储位置推导、内存搬运节点插入Block Graph子图可调度到单个 AI Core硬件相关优化指令编排、片上内存分配、同步操作插入Execute Graph编译最终产物描述 Block Graph 间依赖关系供设备调度器执行调度执行Tensor Graph与硬件无关的高层描述Tensor Graph 由 Tensor 和 Operation 节点构成用于描述用户定义的计算流程。该图不涉及 Tile 展开与内存层级等底层语义仅作为高层计算逻辑的表达。基于 Tensor Graph 的优化主要集中在与硬件无关的通用图优化技术上例如冗余节点消除、常量折叠等。仓库中的对应实现位于 framework/src/passes/tensor_graph_pass/其统计信息在 framework/src/passes/statistics/tensor_and_tile_graph_statistic.cpp 中统一观测。Tile Graph按 TileShape 展开并推导存储位置Tile Graph 由 Tile 和 TileOp 构成。Tensor Graph 根据TileShape展开将 Tensor 分解为 Tile将 Operation 分解为 TileOp。Tile Graph 的关键职责有二依据 TileOp 信息以及目标硬件的内存层级自动推导 Tile 的存储位置在必要时插入内存搬运节点确保数据在不同内存层级之间正确传输。实现位于 framework/src/passes/tile_graph_pass/例如其中 graph_partition/l1_copy_reuse.cpp 处理 L1 内存的拷贝复用正是内存层级感知的具体体现。Block Graph面向单 AI Core 的调度单元Block Graph 通过将 Tile Graph 切分为多个子图使得每个子图可以调度运行在单个 AI Core 上。Block Graph 用于硬件相关的优化包括指令编排instruction scheduling片上内存分配on-chip memory allocation同步操作插入synchronization insertion。这些优化直接作用于硬件执行效率。实现位于 framework/src/passes/block_graph_pass/。Execute Graph编译流程的最终产物Execute Graph 是编译流程的最终产物整合了所有优化结果精确描述各 Block Graph 之间的依赖关系用于设备调度器的调度执行。从源码结构看编译流水线通过 framework/src/passes/pass_interface/pass.cpp 中定义的 Pass 接口逐级驱动上述图变换形成高层描述 → 硬件相关优化 → 可执行产物的完整降级链路。TileShape决定并行粒度与数据划分的分块参数TileShape是 PyPTO 中用于定义张量分块Tiling形状的参数决定了操作在硬件上的并行粒度与数据划分模式。通过合理配置 TileShape可以优化内存使用与计算效率使计算过程更好地适配硬件特性。底层数据结构从源码 framework/include/tilefwk/tile_shape.h 看TileShape结构体内部按算子类型维护了多种分块描述VecTile面向逐元素elementwise运算的向量分块即std::vectorint64_t tileCubeTile面向矩阵乘matmul运算维护m、k、n三组分块大小其中m[0]、k[0]、n[0]对应 L0 Cachem[1]、k[1]、n[1]对应 L1 Cache并带有enableSplitK标志支持 K 维切分ConvTile / ConvBpTile面向卷积与卷积反向输入运算分别封装TileL1Info与TileL0InfoDistTile面向分布式运算维护 row/col/rank 划分与rankId。此外TileShape还维护了matrixSize矩阵规模并提供Current()静态方法访问当前全局 TileShape。Python 侧配置接口Python 侧通过 python/pypto/config.py 暴露了对应的配置 API由_controller.py等底层绑定实现接口适用场景参数说明set_vec_tile_shapes(*shapes)向量/逐元素运算变长分块尺寸set_cube_tile_shapes(m, k, n, enable_split_kFalse)矩阵乘运算m/k/n 各为一组分块列表enable_split_k控制 K 维切分set_conv_tile_shapes(tile_l1_info, tile_l0_infoNone)卷积运算L1/L0 两级分块信息set_convbp_input_tile_shapes(...)卷积反向输入对应ConvBpTile的两级信息set_matrix_size(size)矩阵规模声明用于辅助分块推导实战示例matmul 的 Cube 分块配置在仓库示例 examples/01_beginner/compute/matmul_ops.py 中多个 matmul 内核在进入pypto.frontend.jit装饰的 kernel 之前均通过如下方式显式配置 Cube 分块pypto.set_cube_tile_shapes([32, 32], [64, 64], [64, 64])其中第一个列表[32, 32]对应 m 的 L0/L1 两级分块第二个[64, 64]对应 k 的 L0/L1 分块第三个[64, 64]对应 n 的 L0/L1 分块。开发者需要根据算子形状与硬件缓存容量权衡选择分块过大可能导致片上内存不足分块过小则并行粒度不足、难以打满计算单元。PyPTO 的 Tile Graph 阶段会基于该配置将 Tensor 分解为 Tile 并自动完成存储位置推导与搬运节点插入。Pass计算图的编译优化阶段Pass是 PyPTO 中用于编译优化计算图的阶段以提升计算图的执行效率和硬件利用率。每个 Pass 可以对计算图进行特定的优化操作例如图简化、算子融合、调度优化等。多个 Pass 按既定顺序组合成流水线pipeline作用于不同阶段的图结构。从仓库结构看Pass 体系相当完整主要分布在 framework/src/passes/ 下包括tensor_graph_pass/作用于 Tensor Graph 的高层通用优化tile_graph_pass/作用于 Tile Graph 的分块与内存相关优化block_graph_pass/作用于 Block Graph 的指令编排与内存分配优化pass_interface/定义 Pass 的统一接口见 pass.cpppass_mgr/Pass 管理与调度机制。开发者可通过 python/pypto/pass_config.py 提供的get_pass_config/set_pass_config/set_pass_default_config等接口按策略strategy与标识符identifier精确控制单个 Pass 的开关与参数。此外 python/pypto/config.py 中的set_pass_options支持对向量缓冲区数量vec_nbuffer_setting、Cube L1 复用cube_l1_reuse_setting等关键 Pass 参数进行调优这些参数即围绕下面要讲的合图结果以 hashorder 为键进行配置。合图、同构子图与 hashorder合图是指将计算图中多个逻辑上独立的 Operation 合并为一个逻辑子图并由该子图最终生成一个**物理计算内核Kernel**的过程主要分为两类深度方向合图沿计算图的数据依赖链纵向合并减少内核间数据交换广度方向合图在图的同一层将结构相似、互不依赖的片段横向合并提升并行度与资源复用。同构子图指在计算图中拓扑结构、算子类型完全一致的局部片段。多个互为同构的片段构成同构子图组。在广度方向合图 Pass 处理过程中会为每一组同构子图生成一个唯一的特征标识即 hashorder。hashorder 在仓库中不仅是合图过程的内部标识还暴露为外部配置的索引键在 python/pypto/config.py 中vec_nbuffer_setting、cube_l1_reuse_setting、cube_nbuffer_setting等 Pass 选项的键均可使用 hashorderDict[Union[int, str], int]形式来精确指定对某一组同构子图采用何种 buffer 配置。同时该文件通过_validate_hash_order_settingconfig.py对配置合法性进行校验并提供了funcN_M形式的 hashorder 命名模式识别见 config.py 附近的正则^func\d_\d$。stitch跨循环的任务缝合优化stitch是指打破多个 loop 循环的边界将没有依赖关系的多个 leaf function 执行任务缝合成一个大任务统一下发从而减少同步开销、提升调度性能。其本质是通过扩大单次下发的任务粒度降低任务切换与同步等待带来的开销。仓库在 python/pypto/experimental/runtime.py 中提供了实验性的运行时配置接口set_runtime_options(stitch_function_num_per_pool...)from pypto.experimental.runtime import set_runtime_options # 三个数值分别对应三个 Workspace 内存池的 stitch 深度 # [root_inner, assemble_outcast, exclusive_outcast] set_runtime_options(stitch_function_num_per_pool[2, 2, 0])该参数需传入一个长度为 3 的整数列表每个元素的取值范围为 [0, 1024]分别控制 root_inner、assemble_outcast、exclusive_outcast 三个 Workspace 内存池的缝合深度。默认值为[0, 0, 0]即关闭该精确 Workspace 模式任一元素非零即开启对应池的 stitch。源码中的_validate_stitch_function_num_per_poolruntime.py会严格校验列表长度与取值范围非法输入将抛出ValueError。该功能属于实验特性后续版本可能调整或移除使用时需关注版本兼容性。泳道图调度执行过程的直观可视化泳道图用于直观展示计算图的实际调度与执行过程。通过 IDE 的可视化界面开发者可以观察数据流动路径数据在各内存层级、各 AI Core 之间的搬运轨迹操作间的依赖关系哪些任务可以并行、哪些必须串行等待可能的性能瓶颈定位空闲等待、负载不均、搬运耗时等关键问题。泳道图与术语表中的 Execute Graph 一脉相承——Execute Graph 精确描述 Block Graph 间的依赖关系而泳道图则是该调度结果在时间轴上的可视化呈现。仓库 tools/profiling/draw_swim_lane.py 提供了泳道图绘制工具tools/gen_swimlane.sh 则封装了生成流程开发者可结合性能剖析数据如 tools/profiling/ 下的各类 trace 解析工具生成自己的泳道图从而更高效地分析和优化算子的执行性能。小结一条从描述到执行的完整链路将上述术语串联起来可以清晰看到 PyPTO 的完整工作链路开发者以PTO 范式编写算子——用Tensor表达数据用Operation组装计算逻辑形成计算图前端将用户计算构建为Tensor Graph与硬件无关的高层描述在其上执行通用图优化根据TileShape将 Tensor 展开为 Tile、Operation 展开为 TileOp得到Tile Graph自动完成存储位置推导与内存搬运将 Tile Graph 切分为可在单个 AI Core 上运行的子图得到Block Graph进行指令编排、片上内存分配与同步插入经Pass流水线持续优化包括合图——借助同构子图组与hashorder标识实现算子融合以及stitch跨循环任务缝合最终产出Execute Graph由设备调度器执行开发者可通过泳道图直观审视调度与瓶颈。对于算子开发者而言掌握这套术语体系的价值在于知道写出来的 Python 算子代码如何一步步变成在硬件上高效运行的指令序列从而在性能调优时能准确判断问题出在分块TileShape配置、内存搬运Tile Graph、指令编排Block Graph还是任务调度stitch/Execute Graph层面有的放矢地进行优化。延伸阅读编程范式与 API 基础python/pypto/tensor.py、python/pypto/op/matmul.py分块配置实现framework/include/tilefwk/tile_shape.h、python/pypto/config.py编译流水线与 Pass 体系framework/src/passes/、python/pypto/pass_config.py算子实战示例examples/01_beginner/compute/matmul_ops.py、examples/02_intermediate/性能可视化工具tools/profiling/draw_swim_lane.py【免费下载链接】pyptoPyPTO发音: pai p-t-oParallel Tensor/Tile Operation编程范式。项目地址: https://gitcode.com/cann/pypto创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考