Appearance
解读 GitHub 开源仓库的源码:每个仓库一个子目录(<slug>/index.md 为入口页,章节以 <slug>/<chapter>/index.md 自由扩展)。
<slug>/index.md
<slug>/<chapter>/index.md
Mooncake
Kimi 的 KVCache 中心化分离式推理平台——Transfer Engine 与分布式缓存池的源码解读
vLLM
最广泛使用的 LLM 推理引擎——PagedAttention、连续批处理与前缀缓存的 V1 引擎源码解读
SGLang
高性能 LLM 推理引擎——RadixCache 前缀缓存、chunked prefill 与重叠调度的 SRT 运行时源码解读
DeepEP
DeepSeek 专家并行通信库——从 V1 的 NVSHMEM 双路径到 V2 的 NCCL Gin、DeepJIT 与统一 EPBuffer