Databricks 推出 Private Network Gateway(PNG),Azure 公测、AWS 私测
Databricks 发布 Private Network Gateway(PNG),在 Azure 进入公开预览、AWS 进入私有预览,让 serverless 计算通过一条连接接入用户自有网络。
Databricks 发布 Private Network Gateway(PNG),在 Azure 进入公开预览、AWS 进入私有预览,让 serverless 计算通过一条连接接入用户自有网络。
vLLM 为分离式推理引入基于 push 的 NIXL 连接器,由 prefill 实例通过 RDMA 将 KV 直接写入 decode 内存,从而把 router 中转、decode 侧分配和传输建立移出 TTFT 关键路径。该方案旨在改善首 token 延迟(TTFT)与每 token 输出时间(TPOT)。
vLLM 提出一种在线拟合的接受率估计器,让每个草稿模型投机解码都能使用自适应验证。该方法直接从草稿模型自身的 logits 预测目标模型的接受概率,并在服务过程中持续重新拟合,无需额外的置信头。
Anchor Browser 与 Amazon Bedrock AgentCore payments 集成,让 AI 智能体在浏览器会话内自动处理 x402 协议的 HTTP 402 支付请求,现已上线 AWS Marketplace。
LangChain 借助 Deep Agents CLI 与 docs-code-samples 技能,把文档中的内联代码示例迁移为可测试的独立文件,并自动加上 :snippet-start: / :snippet-end: 标记、运行测试、生成 Mintlify 片段。
LangChain 通过 harness engineering 将其编码智能体在 Terminal Bench 上的排名从 Top 30 提升至 Top 5,核心手段包括自我验证、追踪和上下文优化。
LangChain 宣布推出 Deep Agents deploy 测试版,称其是部署模型无关、开源智能体框架的最快方式,并面向生产环境。该产品被定位为 Claude Managed Agents 的开源替代方案。
推荐理由:LangChain 把开源智能体框架的部署环节产品化,读者可据此判断自托管智能体方案与托管服务的取舍。
LangChain 发布 Open SWE,一个面向内部编码智能体的开源框架。该框架基于 Deep Agents 和 LangGraph 构建,提供内部编码智能体的核心架构组件。
LangChain 重构了 MCP 支持,将其从独立的 langchain-mcp-adapters 移入主包 langchain.mcp,通过 pip install "langchain[mcp]" 安装,并基于 FastMCP 构建。
推荐理由:LangChain 把 MCP 支持并入主包并适配无状态新规范,读者可据此判断现有 MCP 接入方式需要怎样迁移。
GitHub 为密钥扫描训练了专用的 ModernBERT 分类器,替代此前的 LLM 流水线,在保持正则候选召回的基础上结合文件路径、变量名和上下文判断是否为真实凭据。该方案使推送后扫描中位执行时间缩短 86%、服务成本降低逾 98%,用户对告警的接受度提升 11.5%,并让通用密钥检测得以扩展到推送保护阶段。
AWS 官方博客介绍 Grok 4.7 已在 Amazon Bedrock 上线,并演示如何用它构建工具调用智能体。
推荐理由:AWS 官方给出 Grok 4.7 在 Bedrock 上的接入方式与 72 次智能体实测,读者可据此按任务类型选择 reasoning effort 并监控 token 用量。
ShipStation Global 工程团队基于 Amazon Bedrock AgentCore 打造了 Slack 内的 AI IT 服务台 Deckhand,可回答常规 IT 问题、识别报错截图并创建和更新 Jira Service Management 工单。
Orca Security 与 AWS 合作,基于 Amazon Bedrock 构建了自然语言查询智能体 Discovery AI,可将自然语言问题转换为 Sonar 查询。相比最初基线,查询成本降低 90%、输入 token 减少 93%、延迟降低 75%,目前每天处理数千次查询,响应时间 15 秒。
基于 Amazon Bedrock AgentCore 构建的 AI 智能体系统可自动生成 PowerPoint 演示文稿,内部测试中完成时间不到 90 秒。
Amazon SageMaker JumpStart 提供预训练模型目录,可通过 SageMaker Python SDK 部署模型、运行轻量可重复的性能测试,并在测试完成后删除端点。
在 AI Runtime 上微调 Qwen 3.8 27B 的训练时间从 7 小时 44 分钟降至 1 小时 17 分钟,提速 6 倍,训练吞吐从 9,396 tok/s 提升。
欧洲多国城市正联合 ABA Technology、Akila、K2K、Milestone 等软件伙伴,基于 NVIDIA Cosmos、Nemotron 开放模型、Omniverse 库和 Metropolis VSS Blueprint 构建物理 AI 智能体与数字孪生,用于交通、能源、公共安全等城市运营。
NVIDIA 宣布计划投资 Boltz、Foresight、Hiverge、Prima Mente 和 Riverlane 五家英国 AI 与量子计算初创公司,并作为 Global Alliance Founding Partner 与 Earthshot Prize 合作。
英伟达宣布五年内捐赠价值2.5亿美元的算力,每年提供5000万美元算力访问,用于支持英国智能体安全与安全研究。大部分算力将面向英国更广泛的AI安全研究社区,一部分用于支持牛津大学主导的BOLD、UCL主导的SOFAIR以及帝国理工学院在基础智能体模型与机器人安全方面的工作。
推荐理由:英伟达以算力捐赠方式介入英国智能体安全研究,读者可了解企业参与AI安全治理的一种路径。
Orange Business 基于 LangChain 与 LangSmith 构建旗舰 AI 平台 Live Intelligence,已部署给 120,000 名 Orange 员工,并被法国及欧洲 150+ 客户采用。
Deep Agents SDK 通过卸载、摘要和文件系统抽象来管理长时 AI 任务的上下文,以防止上下文腐化。该 SDK 面向长时间运行的任务场景,将上下文管理拆解为 offloading、summarization 与 filesystem abstraction 三种手段。
Databricks 发布 2026 年实时分析实践指南,聚焦企业如何将分析负载从批处理转向实时处理。数据始终是业务决策的核心,而多数分析工作负载仍以批处理为主。
Amazon Bedrock 的托管授权支持从中心账户订阅 AWS Marketplace 私有定价优惠(MPPO),再向组织内多个账户分发模型访问权限。
针对 MoE 模型在解码阶段因 token 行数过薄导致的 GPU 利用率瓶颈,团队通过 Swap-AB 转置让专家维度 N=8192 进入 WGMMA 首个操作数位置,在 H200 上实现端到端输出吞吐提升 2–4%,该优化已合入 vLLM 0.24.0 及更高版本。
LangSmith 上线 AI Search,支持用自然语言查询 trace:描述你想找的行为,LangSmith 就返回该行为发生的 trace。该功能面向按行为而非关键词定位 trace 的场景。
LangChain 与 Deep Agents 可结合 ScaleDown 的约束解码模型,用于总结历史、压缩工具结果并更快更省地提取数据。该方案面向长时间运行的智能体场景,通过压缩上下文与工具输出来降低开销。
NVIDIA 宣布 RTX Spark 笔记本将于 10 月 16 日上市,最高 128GB 统一内存和 1 petaflop AI 算力,首发覆盖数百款游戏、130 多款加速应用及 PyTorch、CUDA 等开发工具。
推荐理由:NVIDIA 一次性列出 RTX Spark 首发日的本地智能体、创作与开发工具清单,可据此判断本地 AI 工作流的可用边界。
Amazon Bedrock 面向亚太五个 AWS 区域开放 OpenAI GPT-6 系列的全球跨区域推理,GPT-6 Sol 和 GPT-6 Luna 可从新加坡、雅加达、马来西亚、泰国和台北调用,GPT-6 Astra 仅从新加坡调用。
AWS 发布 Ray LLM Deep Learning Containers,可在 Amazon EKS 上把单个大语言模型跨两个 GPU 节点部署,将 prefill 与 decode 分离到不同节点并统一在一个 OpenAI 兼容端点后。
AWS 发布 llama.cpp 专用深度学习容器(DLC),可在 Amazon SageMaker AI 上以 CPU 或 GPU 托管量化模型,并通过 InvokeEndpoint 提供 OpenAI 兼容的 chat completions。
NVIDIA 在 OCP Global Summit 上通过开放的 NVIDIA MGX 架构向 OCP 贡献了 Vera Rubin 机架与计算托盘设计,为系统厂商提供下一代 AI 工厂基础设施的共同基础。
推荐理由:NVIDIA 在 OCP 峰会上把 Vera Rubin 机架设计开放给 MGX 生态,读者可据此了解 AI 工厂基础设施的标准化路径。
NVIDIA 宣布计划投资法国初创公司 Doctolib、Entalpic、Genesis AI 和 Pigment,分别覆盖医疗智能体、先进材料、通用机器人和企业规划领域。
GitHub Copilot 可通过四种方式定制项目上下文:用 .github/copilot-instructions.md 定义仓库级规范,用 .github/instructions 配合 applyTo 字段做路径级指引,用 .github/skills 下的 SKILL.md 封装可复用流程,用 .github/agents 创建专用自定义智能体。
Apple 研究团队提出 Minions,一个聚合 macOS 设备上闲置 Apple Silicon GPU 的动态分布式虚拟 GPU 云,用于执行大规模机器学习推理任务。该系统提供灵活的 GPU 推理任务执行、容错能力和高效资源利用,让团队无需额外采购 GPU 即可利用现有硬件。研究经验表明,在集中式 GPU 资源受限的环境中,闲置 macOS 设备可转化为实用的分布式 GPU 推理平台。
Postman 的 Agent Mode 运行在 Amazon Bedrock 上,为 4000 万开发者提供跨 API 测试、文档、发现与实现的 AI 原生工作方式。
Amazon Bedrock 在 9 月新增 OpenAI 的 Astra、Sol、Luna 系列模型,其中 GPT-6 Astra 支持最高 100 万输入 token,GPT-6 Astra Ultrafast 提供最高 6 倍推理加速、300 tokens/秒。
Asana 借助 Codex 中的 GPT-6 Astra,在测试中让浏览器智能体成本降低 76 倍、速度提升 5 倍,从而为客户提供能力更强的模型。
Ai2 用 GPU 时间预算、分层公平分配和时间切片契约替换了原有的优先级调度器,把各研究项目该分多少 GPU 时间的争论从逐案运维操作转为透明的行政预算流程。
Hugging Face 作者借助 HuggingChat 中的 ML Intern,用提示词驱动完成六个模型的训练、评测与发布,总计算花费约 103 美元。其中把 Qwen-Image 2.1 的 9B 提示词改写器蒸馏成 0.8B 版本,可在 CPU 上运行,输出有效率 99.7%,token 用量约为教师模型的四分之一。
推荐理由:作者用六个真实项目复盘了如何用提示词驱动 ML Intern 完成训练、评测与发布,可迁移到自己的模型定制流程。
Amazon SageMaker HyperPod 推出基于 EKS 的多租户参考架构,让多个团队共享同一 GPU 集群并保持隔离与资源公平。