NVIDIA 发布 Kumo Relational 关系型基础模型,无需训练即可预测
NVIDIA 发布预训练关系型基础模型 Kumo Relational,可直接在企业数据库上做预测,单次前向推理读取最多 10000 条历史样本作为上下文,无需任务特定训练、特征工程或表扁平化。
推荐理由:原文给出预训练关系型基础模型在41项任务上的对比结果与开源入口,可据此判断免训练预测能否替代现有XGBoost流水线。
NVIDIA 发布预训练关系型基础模型 Kumo Relational,可直接在企业数据库上做预测,单次前向推理读取最多 10000 条历史样本作为上下文,无需任务特定训练、特征工程或表扁平化。
推荐理由:原文给出预训练关系型基础模型在41项任务上的对比结果与开源入口,可据此判断免训练预测能否替代现有XGBoost流水线。
vLLM 宣布在 Flint 发布首日即提供支持,NVFP4 与 BF16 两个 checkpoint 均可在单张 GPU 上运行,单请求在单张 GB200、100K 上下文下解码约 500 tokens/s。
Dharma AI 在 Hugging Face 博客中介绍即将发布的 VocabX 论文,方法是在不改动基座模型的前提下,按每个 token 的推理成本而非出现频率重建领域专用词表。
微软研究院 Xinzhi Zhang 与合著者 Zhao Song 证明了 1995 年提出的 Kannan-Lovász-Simonovits(KLS)猜想,证明结果与维度无关,并保持在一个固定常数范围内。此前 2026 年 7 月的最好结果仍允许该界随维度缓慢增长。证明过程采用人类主导的智能体搜索,探索了 100 多条候选路径;同期另有独立团队给出完整证明,并已有 Lean 4 形式化验证。
推荐理由:这篇论文给出了 KLS 猜想证明的完整脉络,并说明人类主导、AI 智能体并行探索的研究流程如何参与其中。
Hugging Face 博客发布 TorchNeuron 性能剖析系列第一篇,介绍如何在 AWS Trainium 上系统分析推理性能。
Inception 发布扩散语言模型 Mercury 3,称其在 12 项基准中赢下 8 项,运行速度为 GPT-6 Luna 和 Claude Haiku 5.5 的 4 到 8 倍。
NVIDIA 发布多变量时序预测模型 Kumo Forecast(原 NV-Tesseract Forecasting),以 MOMENT-1-large 为骨干,约 3.4 亿参数编码器加可训练预测头,编码器与嵌入层权重冻结。
NVIDIA 扩展其开放模型家族,覆盖语言、机器人、生物和量子计算,包括新的 Nemotron 3.5 Super VL 与 Nemotron 3.5 Bolt、Nemotron Retriever、Kumo 结构化数据基础模型、Cosmos 3.5 世界模型、Alpamayo 2 Edge、BioNeMo 与 Ising。
推荐理由:原文一次性列出语言、机器人、生物、量子多条开放模型线及各自落地伙伴,便于比较英伟达开放模型组合的覆盖范围。
DeepSeek 开源了支撑 V4.1 Flash 的生产推理框架 DeepInfer,并同步发布 deepseek-recipe 协议转换库,支持 NVIDIA SM100 与华为昇腾 950 平台。
推荐理由:DeepSeek 开源生产推理栈的同时披露了缓存命中率与单卡收入,读者可据此判断高吞吐数字背后的成本结构。
Google 团队在 PyTorch Conference North America 上发布分布式推理栈 llm-d 1.0,这是该项目首个稳定版本,把 vLLM 或 SGLang 模型服务器整合为 Kubernetes 上的统一资源池。
蚂蚁集团与 vLLM 社区开源通用高性能量化推理内核库 Humming,支持 Turing 及之后的 NVIDIA GPU 和 T-Head 真武 810E,统一支持多种权重与激活量化组合。
推荐理由:原文给出 Humming 与 Marlin、DeepGEMM、FlashInfer 的逐项基准和端到端吞吐数据,可据此判断量化推理内核的选型空间。
Amazon Bedrock 跨区域推理(CRIS)现支持从加拿大(中部)和加拿大西部(卡尔加里)区域调用 OpenAI GPT-5.6(Sol、Terra、Luna)、GPT-6(Astra、Sol、Luna)和 GPT-6.1 Sol,推理在北美境内处理。
i14 与 AWS 合作,通过 TorchNeuron Native 的原生 PyTorch 支持,将线性注意力模型 Laplace 3B 移植到 AWS Trainium2,并保留其 Gated Linear Attention(GLA)设计与 Muon 优化器。
在 Amazon SageMaker HyperPod 上对 GPT-OSS-20B 做多语言推理微调:基座模型在 50 例测试中仅 22% 用目标语言推理,英语 100%、法语和西班牙语 0%、德语 10%、意大利语 0%。实验表明 SFT 承担主要工作,GRPO 在存在提升空间时进一步优化,训练采用 LoRA,GPT-OSS 使用 4× ml.g6e.12xlarge。
DeepSeek 以 Apache 2.0 协议开源了支撑 DeepSeek-V4.1-Flash 的生产推理框架 DeepInfer,同时发布 MIT 协议的 token 编解码层 deepseek-recipe。
Cloudflare 发布 AI 模型 Clairic,称其从文档中抽取数据比大语言模型更快、更便宜,已在 Workers AI 上提供预览,开放权重随后发布。
MiniMax 发布推理模型 M3.1 Flash,在 Artificial Analysis Intelligence Index 上得 42 分,比前代 M3 高 13 分,单任务成本不到其一半。
MiniMax 在 API 上线 MiniMax M3.1 Flash,采用 428B 总参数、约 23B 激活的 MoE 架构,支持 100 万 token 上下文和文本、图像、视频输入,定价为每百万 token 输入 $0.15、输出 $0.60。
Inception 发布扩散语言模型 Mercury 3,官方称在 NVIDIA GPU 上达到 1,068 tokens/s,上下文窗口为 1M tokens,参数量未披露但超过 Mercury 1 的 40 倍。
Cloudflare 在 Workers AI 上线抽取模型 Clairic 预览版,读取文本或图片后直接返回带类型的值而非生成文本,单次前向完成、不产生输出 token。
AWS 在 vLLM 中引入基于 NIXL 的 push 模式 KV 传输,把解码端的传输注册与建立连接从关键路径移到预填充侧和后台线程,从而降低 TTFT 与 TPOT。
Deepgram 与 AWS 团队将 Nova-3 语音转文字模型移植到 AWS Trainium2,用于联络中心分析、医疗转写等离线批处理场景,最终配置在单台 Amazon EC2 trn2.3xlarge 实例上运行 8 个模型副本。
Eka Robotics 完成 1.5 亿美元 A 轮融资,由 a16z 和 F-Prime 领投,投后估值 14.5 亿美元。
NVIDIA 在德国于利希超级计算中心的欧洲首台百亿亿次超算 JUPITER 上完成 104 比特容错量子计算模拟,称这是迄今规模最大的容错量子处理器完整模拟。
AWS 在 vLLM 中实现双向 KV 传输,让 decode 节点把已计算的 KV 缓存回传给 prefill 节点,避免多轮对话中重复计算上下文。在基于 Amazon EC2 P5en 实例和 EFA 的 1P1D 部署上,该功能使 Qwen3-32B 的 TTFT 最多降低 1.6 倍、zai-org/GLM-5-FP8 最多降低 3.3 倍。
阶跃星辰(StepFun)发布 Step 5 Preview 开放权重,FP8 与 BF16 检查点已上线 Hugging Face 和 ModelScope。
新基准 Taste-Bench 测试 AI 智能体在长任务中做战略选择的能力,表现最好的 GPT-5.6 Sol 在简单二选一问题上正确率仅略低于 60%。延长思考时间并不能提升表现。
Elorian 发布首个 AI 模型 Glimpse,主打直接以图像为对象进行推理,而非仅围绕图像展开推理。按其自评估结果,Glimpse 在科学图表推理和短视频描述任务上超过 GPT-6 Astra,在其他视觉推理任务上表现相当。
在 TheoPhysEval 基准上,GPT-6-Astra 以与顶尖专家相当的准确度解出 50 道未发表理论物理计算题中的 49 道,单题成本 2.40 美元。部分看似失败的题目中,专家自己的参考解答被发现有误。研究者认为物理领域尚未出现数学领域那样的突破,因为智能体缺乏“品味”,但他们仍认为自主的顶级 AI 研究可能很快到来,并已看到这对年轻物理学家培养和领域机会平等的影响。
推荐理由:读者可了解 TheoPhysEval 上智能体解物理题的表现,以及研究者对自主科研进度的判断。
NVIDIA 发布 Nemotron 3.5 Super VL,这是一个 120B 参数、每 token 激活 12B 的 MoE 开源视觉语言模型,支持文本、图像、文档和视频输入,上下文最高 1M tokens,权重以 OpenMDW-1.1 许可发布。
Liquid AI 发布决策模型 d1-ultra,可读取文本、图像或两者,对每个问题返回各选项概率,一次前向完成且不生成输出 token。该模型已在 Liquid API 上线,定价为每百万输入 token 0.042 美元,图像按每 32×32 像素块 1.5 token 计费。
vLLM 宣布从 day 0 起支持 Reflection 的 Beam-1.0(总参数 501B、激活 23B)。该版本通过智能体驱动的优化将解码延迟降低 2.71 倍,并采用 DFlash2 投机解码与自适应验证。
vLLM 披露 Kimi K3 在 AMD Instinct MI355X 上的推理优化工作,使其在 AgentX 上实现单 GPU 吞吐量追平 NVIDIA HGX B300。文章复盘了这次优化中定位到的性能瓶颈,以及让推理变快的各项决策。
vLLM 团队借助智能体辅助的 CuTe DSL 优化,加速 Kimi K3 在 NVIDIA GB300 上的解码。团队通过限定范围的改动、正确性测试和可复现基准,确保这些优化能够负责任地上线。
Apple 提出 Selection-based Structured Reasoning(SSR)框架,将推理从开放式生成改为选择:把反复出现的高层推理表示为预先指定的可复用自然语言候选,模型每轮从中选择。该框架针对小模型推理冗长、对动作生成帮助有限且推理成本高的问题,目标是提升多模态搜索智能体的效率。
Google DeepMind 将 Gemini 4 Argon 面向开发者、企业和付费 Gemini 订阅用户开放,该模型为稀疏 MoE 架构,原生支持文本、图像、音频和视频输入,输出上限从早期 Gemini 的 64K 提升至 1M token,输入输出共享 1M 窗口。
Liquid AI 发布开源权重推理模型 LFM2.5-24B-A2B,总参数 24B、每 token 激活约 2B(模型卡为 2.45B),上下文 131,072 token,是 LFM2.5 系列最大也是最后一个成员,权重已在 Hugging Face 开放。
Apertus 1.5 在 8B 和 70B 两个规模上扩展了 Apertus 1.0,新增图像与音频理解、可选思考模式、4 倍长的上下文窗口(262,144 tokens),并改进指令遵循与工具调用,权重以 Apache 2.0 许可发布于 Hugging Face。
推荐理由:原文完整公开了多模态早融合方案、四阶段预训练与五阶段后训练流程,可供研究开源模型如何扩展模态与长上下文。
TypeSafe AI 发布 System One 决策模型 Jev 1.14,以 jev-preview 别名上线,新增图像输入、Box 边界框类型和 262k 长上下文三项实验性功能。
Liquid AI 发布 LFM2.5-24B-A2B,这是一个 24B 参数、每 token 仅 2B 激活参数的推理模型,面向端侧智能体,会先思考再作答并调用工具。
推荐理由:原文给出模型架构、16 项基准对比和端侧推理速度,可据此判断本地智能体的可行边界。