热点事件观察中

vLLM 首日支持 Flint 模型推理

1 篇报道1 个报道来源1 天前更新

先了解这件事

AI 综述

vLLM 宣布在 Recursive 的 Flint 模型发布首日即提供支持，NVFP4 与 BF16 两个检查点均可在单张 GPU 上运行。据 vLLM 博客，单请求在单张 GB200、100K 上下文下解码约 500 tokens/s。首日 Docker 镜像 vllm/vllm-openai:flint（x86_64 与 arm64，CUDA 13.0）已内置 Flint 支持，相关支持正合并进 vLLM 主项目（#62938）。Flint 内核针对单张 Blackwell GPU（TP=1、BF16 KV cache），其他配置回退到 vLLM 标准层。vLLM 提醒推理过程计入 max_tokens，难题应预留至少 32K。

AI 根据报道生成 · 14 小时前更新

最新进展10月21日 08:00

vLLM 首日支持 Recursive 的 Flint 模型

报道时间线

沿着报道，了解事件的不同侧面。

10月21日

08:00
vLLM Blog
vLLM 首日支持 Recursive 的 Flint 模型
vLLM 宣布在 Flint 发布首日即提供支持，NVFP4 与 BF16 两个 checkpoint 均可在单张 GPU 上运行，单请求在单张 GB200、100K 上下文下解码约 500 tokens/s。

本事件热度走势

可比范围当前: 4
可比范围峰值: 610月22日 02:00
近 24 小时变化: –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。