Profiling 性能分析

前面的章节给了你所有理论模型（Roofline、$6ND$、allreduce、气泡率），这一章回答：​真实的系统到底怎么样？时间去哪了？

本章节内容：

1. 性能指标——MFU、TTFT/TPOT、goodput、带宽利用率，各自衡量什么、如何计算。
2. 性能分析工具——PyTorch Profiler、Nsight、HolisticTraceAnalysis，以及如何读懂一张时间线。
3. 负载特征与性能归因——训练/推理负载的特征提取、通信与显存 breakdown、性能回归的自动化检测。

方法论：​先有模型（理论预期），再有 profile（实测数据），两者的差值就是优化空间​。没有理论模型的 profiling 是一堆花哨的火焰图，没有 profiling 的理论模型是纸上谈兵。这也是全书的收官章——任何一章的优化，最终都要在这里验证。