用户手册¶
如何编写、编译、运行与调试 PyPTO 程序。
阅读路径¶
按你当前要做的事挑一条。四条路径都假设安装已完成。
我要写第一个 kernel¶
先让一个程序编译通过，再理解它在做什么，最后补全语言表面。过程中把 算子目录 开在旁边 —— 起步阶段你会不停查算子。
我有 kernel，但数值不对¶
Torch Codegen 调试指南 → 编程模型 § 执行模型
把 IR lower 成 PyTorch 脚本，逐张量对拍。如果结果是每次运行都不一样而不是稳定地错， 问题在顺序而不在算术 —— 去读执行模型那一节，因为语句顺序并不约束执行顺序。
我有 kernel，但太慢¶
编程模型 § 内存层次 → 诊断 → 运行时 DFX
在动手测量之前，先看编译产物里的 report/perf_hints.log —— 编译器可能已经告诉你了。
性能专章见 性能。
我想跨多个设备运行¶
先让单设备 kernel 跑通 —— 分布式程序是在 pld.* 集合通信和 HOST 编排器之上
组合同样的 pl.* kernel。跑通之后，分布式章节覆盖 ring 与 mesh 的
开销取舍以及跨 rank 重叠。
目录¶
| 页面 | 内容 |
|---|---|
| 安装 | 前置条件、源码安装、构建选项、验证、examples/ 导览 |
| 快速上手 | 用 @pl.jit 写张量级 kernel（无手工数据搬运）、循环、把工作拆到多个函数、编译与读 IR |
| 编程模型 | 张量 / Tile / Block 三层、控制面与执行面、pass 流水线、内存层次、执行模型 |
| 语言指南 | 完整语言，一页一个主题：类型、函数、控制流、内存、作用域与任务、编译期指令 |
| 算子 | 在 pl.*、pl.tensor.*、pl.tile.* 之间取舍，以及算子目录 |
| 编译程序 | ir.compile() 与 JITFunction.compile()，以及检视结果 |
| 在设备上运行 | 常驻设备张量、显式派发，以及影响派发的 RunConfig 字段 |
| Torch Codegen 调试指南 | 从 IR 生成 PyTorch 参考实现，用于定位精度问题 |
| 分布式编程 | 跨 rank 程序的对称内存模型、集合通信、底层原语、执行与调试 |
PyPTO 提供了什么¶
| 能力 | 文档位置 |
|---|---|
用 @pl.jit 写 kernel（及其所特化成的 @pl.function / @pl.program 形态） |
快速上手、函数与程序 |
| 显式片上内存放置（Vec / Mat / L0A / L0B / L0C） | 编程模型 |
| 控制流：循环、携带值、条件、while | 控制流 |
| 多函数 program 与跨函数调用 | 快速上手 |
@pl.jit 全家族（.incore、.inline、.opaque、.host） |
快速上手、函数与程序 |
| 手写 C++ kernel 接入 | 外部 Kernel |
| 设备常驻张量、显式派发 | 在设备上运行 |
| 分布式（多卡）程序与集合通信 | 分布式编程 |
| 对照 PyTorch 参考实现做精度定位 | Torch Codegen 调试指南 |
| 编译期诊断与性能提示 | 诊断 |
| 运行时 DFX：swimlane、PMU、依赖图、scope stats | 运行时 DFX |
| 片上内存图可视化 | 内存图 |
尚未收录的内容¶
本手册正在扩展为完整的分章结构 —— 教程、性能优化、精度定位各自成章。 在这些章节落地之前，相应内容位于开发者文档：
| 主题 | 当前位置 |
|---|---|
| 混合 kernel（AIC + AIV 同一函数） | LowerAutoVectorSplit、ExpandMixedKernel、TPUSH/TPOP |
| 性能提示与诊断 | 诊断、编译性能剖析 |
| 运行时 DFX 开关、ring sizing、memory map | 运行时 DFX、逐任务 Ring Sizing、内存图 |
| 外部 C++ kernel | 集成手写 C++ Kernel |
另请参阅¶
- 开发者文档 —— 编译器如何 lower 你写下的代码。
- PTO ISA 参考 —— 生成代码背后的指令语义。
- 运行时文档 —— 执行已编译程序的调度器。