vLLM Blog· vLLM Team·· 21 小时前精选AI 评分62
vLLM 详解 GLM-5.3 在 16 张 H200 上的 PCP、DCP 与 Hybrid HiSparse 优化
GLM-5.3 Optimizations, Part 2: PCP, DCP, and Hybrid HiSparse on 16 H200s
AI 导读
vLLM 团队发布 GLM-5.3 优化第二部分,在 16 张 H200 上以 1 个 prefill 节点加 1 个 decode 节点的分离部署,用 PCP 按 token 切分 prompt、DCP 按 token 分片 KV cache,使 1M 上下文得以服务。
推荐理由
原文给出 PCP 与 DCP 的分工、实测加速比和可复现启动参数,可作为长上下文部署的参考方案。
来源:vLLM Blog · vllm.ai