vLLM Blog· vLLM Team·· 7 天前精选AI 评分60
vLLM 为 Muse Spark Open 提供 Day 0 支持
Day 0 support for Muse Spark Open on vLLM
AI 导读
vLLM 宣布在 Muse Spark Open 发布当天提供 Day 0 支持。该模型为 816B MoE，支持 1M 上下文和多模态输入，并包含 DSpark 投机解码、NVIDIA 与 AMD 部署、初步 TPU 支持以及 LoRA RL。
推荐理由
vLLM 在 Muse Spark Open 发布当天给出支持，读者可据此了解该模型的规模、上下文与部署路径。
来源：vLLM Blog · vllm.ai