Mooncake 学习路线

Mooncake 学习路线(倒金字塔,先跑通再深入)

阶段一:跑通集成示例(半天)

先不要读源码,先看到它怎么跑

  1. 在现有环境装好
pipinstallmooncake-transfer-engine# 或者用已有的 build
  1. 跑一个 PD 分离的 demo:用test_1p1d_erdma.sh的流程——两台机器(或模拟),prefill 写 KV cache,decode 通过 Mooncake 读到。关键是亲眼看到--enable-mooncake之后 SGLang 的日志变化。

  2. 目的:建立 “Mooncake 到底是什么” 的心理模型——它不是一个独立服务,是嵌入 SGLang 的传输层。


阶段二:读 Transfer Engine 核心流程(1-2 天)

按"一条传输请求的生命周期"来读源码,不要按目录扫。