附录 B:核心符号速查
| 符号 | 版本 | 职责 | 定义位置 | 章节 |
|---|---|---|---|---|
Buffer | V1 | Python 用户 API 与通信路径选择 | deep_ep/buffer.py | 03、04 |
deep_ep::Buffer | V1 | 资源持有、IPC/NVSHMEM 生命周期与 kernel 接口 | csrc/deep_ep.hpp, csrc/deep_ep.cpp | 03 |
get_dispatch_layout | V1 | 从 top-k 生成 rank/expert 计数与 membership | deep_ep/buffer.py, csrc/kernels/layout.cu | 04 |
EPBuffer | V2 | EP 主 API、容量参数、handle 与 stream 控制 | deep_ep/buffers/ep.py | 05 至 09 |
EPHandle | V2 | 保存 dispatch 布局与 combine 所需元数据 | deep_ep/buffers/ep.py | 07、08 |
BufferBase | V2 | 各专用 buffer 的共同生命周期入口 | deep_ep/buffers/base.py | 10 |
Context | V2 | NCCL device communicator、domain 与 memory window | csrc/kernels/comm/api.hpp, context.cpp | 06 |
launch_dispatch | V2 | dispatch specialization 与 kernel launch | csrc/kernels/ep/dispatch.hpp | 05、07 |
launch_combine | V2 | combine specialization 与 kernel launch | csrc/kernels/ep/combine.hpp | 05、08 |
EventOverlap | V2 | 封装 CUDA event、Tensor 生命周期和延后回调 | deep_ep/utils/event.py | 08 |
BufferAllocator | V2.5 | 规划对称通信 storage 上的张量布局 | deep_ep/buffers/allocator.py | 09、10 |