跳到正文

技术方向

部署工程 最新动态

把模型跑起来的工程实践:推理优化、显存与成本、Serving 架构与基础设施选型。

42 条精选近 30 天 42 条共收录 324 条

更新

精选归档 · 第 2 页

10月16日周五第 21–40 条
  1. NVIDIA Newsroom60

    NVIDIA RTX Spark 笔记本开售,华硕、戴尔、惠普、联想、微软、微星推出

    NVIDIA 宣布 RTX Spark 笔记本即日起开售,将 RTX 显卡与 NVIDIA 全栈 AI 平台整合进轻薄 Windows PC,面向加速创作、沉浸式游戏和本地 AI 场景。华硕、戴尔、惠普、联想、微软和微星将陆续推出相关机型。

    推荐理由:原文给出 RTX Spark 笔记本的定位与合作厂商,读者可据此了解本地 AI 能力在 Windows PC 上的落地形态。

  2. NVIDIA Blog62

    NVIDIA 发布 RTX Spark,面向创作者、玩家与 AI 智能体的 Windows PC

    NVIDIA 发布 RTX Spark,定位为一台面向创作者、玩家和 AI 智能体的 Windows PC,并于 10 月 16 日在旧金山、柏林、台北、北京、伊斯坦布尔、首尔等地举办发布活动。

    推荐理由:NVIDIA 官方公布 RTX Spark 的定位与全球发布活动安排,并汇总多家媒体对本地 AI 与游戏表现的早期评价。

  3. Microsoft Research71

    微软研究院发布 Magnetar:基于标准哈希函数的通用零知识证明系统

    微软研究院发布零知识虚拟机 Magnetar,可证明用 Rust、Go 或 C 编写的 RISC-V 程序执行,在 15 个基准程序上比现有最快 zkVM 平均快 10 到 39 倍,证明验证约 12 毫秒。

    推荐理由:微软研究院公开 Magnetar 的技术设计与基准数据,可了解零知识证明在通用程序上的性能与密码学取舍。

  4. MarkTechPost82

    Meta 发布 Muse Spark Open:816B 开源权重 MoE,支持 1M 上下文

    Meta Superintelligence Labs 发布 Muse Spark Open,这是 Muse Spark 的开源权重版本,816B 总参数 MoE、每 token 激活 42B,支持文本、图像、视频和音频输入,上下文窗口 1M token,权重以 BF16 和 NVFP4 格式在 Hugging Face 发布。

    推荐理由:Meta 开源 816B MoE 模型的规格、部署门槛与同代开源模型对比数据都在这篇里,可据此判断本地运行可行性。

10月15日周四
  1. Google Research74

    Google 公开发布 Deep Review,用智能体流水线审阅技术文档

    Google 宣布公开发布 Deep Review,一个面向复杂文档提供严格反馈与技术验证的智能体 AI 系统,最初用于计算机科学论文分析,现已扩展到法律、金融等领域。

    推荐理由:Google 公开了 Deep Review 的四阶段智能体审稿流程与会议试点数据,可据此判断自动评审在长文档场景的可用边界。

  2. Google Research66

    Google 发布地理空间推理智能体技术报告与两个新基准

    Google 发布地理空间推理智能体的技术报告,在 CBGB、UnivEARTH 及自研的 GeoExpertQueries、GeoKTools 四个基准上评估四种智能体配置,并公开两个新基准的开发集。

    推荐理由:Google 公开地理空间推理智能体的技术报告与两个新基准,并给出与 WHO 等伙伴的实测案例,可了解专用工具与前置规划对空间推理的作用。

  3. vLLM Blog60

    vLLM 为 Muse Spark Open 提供 Day 0 支持

    vLLM 宣布在 Muse Spark Open 发布当天提供 Day 0 支持。该模型为 816B MoE,支持 1M 上下文和多模态输入,并包含 DSpark 投机解码、NVIDIA 与 AMD 部署、初步 TPU 支持以及 LoRA RL。

    推荐理由:vLLM 在 Muse Spark Open 发布当天给出支持,读者可据此了解该模型的规模、上下文与部署路径。

  4. LangChain Blog62

    LangChain 详解 Deep Agents 的上下文工程:如何记住而不塞满上下文窗口

    LangChain 官方博客介绍其开源 harness Deep Agents 如何用中间件缓解上下文膨胀,包括卸载、摘要、技能、子智能体和长期记忆五类技术。

    推荐理由:LangChain 官方拆解 Deep Agents 五种上下文管理中间件的触发阈值与实现方式,可对照自身 Agent 的上下文膨胀问题。

10月14日周三
  1. NVIDIA Newsroom62

    英伟达承诺五年捐赠2.5亿美元算力,支持英国智能体安全与安全研究

    英伟达宣布五年内捐赠价值2.5亿美元的算力,每年提供5000万美元算力访问,用于支持英国智能体安全与安全研究。大部分算力将面向英国更广泛的AI安全研究社区,一部分用于支持牛津大学主导的BOLD、UCL主导的SOFAIR以及帝国理工学院在基础智能体模型与机器人安全方面的工作。

    推荐理由:英伟达以算力捐赠方式介入英国智能体安全研究,读者可了解企业参与AI安全治理的一种路径。

  2. LangChain Blog62

    LangChain 发布 Deep Agents deploy 测试版,开源智能体部署方案对标 Claude Managed Agents

    LangChain 宣布推出 Deep Agents deploy 测试版,称其是部署模型无关、开源智能体框架的最快方式,并面向生产环境。该产品被定位为 Claude Managed Agents 的开源替代方案。

    推荐理由:LangChain 把开源智能体框架的部署环节产品化,读者可据此判断自托管智能体方案与托管服务的取舍。

10月13日周二
  1. NVIDIA Blog78

    NVIDIA RTX Spark 笔记本 10 月 16 日上市,首发配套本地 AI 智能体与开发工具

    NVIDIA 宣布 RTX Spark 笔记本将于 10 月 16 日上市,最高 128GB 统一内存和 1 petaflop AI 算力,首发覆盖数百款游戏、130 多款加速应用及 PyTorch、CUDA 等开发工具。

    推荐理由:NVIDIA 一次性列出 RTX Spark 首发日的本地智能体、创作与开发工具清单,可据此判断本地 AI 工作流的可用边界。

  2. NVIDIA Blog62

    NVIDIA 在 OCP 峰会开放 Vera Rubin 架构并发布多项 AI 工厂合作

    NVIDIA 在 OCP Global Summit 上通过开放的 NVIDIA MGX 架构向 OCP 贡献了 Vera Rubin 机架与计算托盘设计,为系统厂商提供下一代 AI 工厂基础设施的共同基础。

    推荐理由:NVIDIA 在 OCP 峰会上把 Vera Rubin 机架设计开放给 MGX 生态,读者可据此了解 AI 工厂基础设施的标准化路径。

10月9日周五
  1. Hugging Face Blog70

    作者用 ML Intern 两天训练六个模型,总花费约 103 美元

    Hugging Face 作者借助 HuggingChat 中的 ML Intern,用提示词驱动完成六个模型的训练、评测与发布,总计算花费约 103 美元。其中把 Qwen-Image 2.1 的 9B 提示词改写器蒸馏成 0.8B 版本,可在 CPU 上运行,输出有效率 99.7%,token 用量约为教师模型的四分之一。

    推荐理由:作者用六个真实项目复盘了如何用提示词驱动 ML Intern 完成训练、评测与发布,可迁移到自己的模型定制流程。

10月8日周四
  1. AWS Machine Learning Blog62

    AWS 上线 Claude Haiku 5.5,主打低成本子智能体场景

    AWS 宣布 Claude Haiku 5.5 在 Amazon Bedrock 和 Claude Platform on AWS 上线。据 Anthropic 说法,它是 Claude 5.5 系列中速度最快、效率最高的模型,面向子智能体和大量成本敏感型任务,多数任务成本比 Claude Haiku 4.5 低约 75%。

    推荐理由:文章给出 Haiku 5.5 在 Bedrock 上的能力定位、成本变化与调用示例,便于判断其在多智能体流程中的分工。

  2. NVIDIA Blog75

    英伟达与微软发布 RTX Spark 及 Windows 智能体运行基础设施 MXC

    在旧金山 Windows AI and Surface 活动上,英伟达与微软宣布为 Windows PC 上的 AI 智能体共同设计软硬件,微软同时宣布 OS 级基础设施 Microsoft Execution Containers(MXC)正式可用,让智能体在系统管控下安全持久地在后台运行。

    推荐理由:英伟达与微软把智能体运行所需的系统级容器和本地算力硬件一并公布,读者可据此了解 Windows 端侧智能体的落地路径。

  3. GitHub Blog · AI & ML62

    GitHub 推出 ModernBERT 密钥检测分类器,扩展推送保护

    GitHub 发布基于 ModernBERT 的通用密钥检测分类器,用代码上下文识别无固定格式的密钥,可在 2 毫秒内评估一批候选密钥,据称能把可拦截的密钥数量提升一倍以上。

    推荐理由:GitHub 公开了九季度密钥泄露数据与自研分类器的落地节奏,可据此判断 AI 编码提速后密钥防护的可行路径。

  4. AWS Machine Learning Blog62

    GLM 5.3 上线 Amazon Bedrock

    Z.ai(智谱 AI)的 GLM 5.3 已在 Amazon Bedrock 上线,这是一个 753B 参数的混合专家模型,面向编码与长周期智能体任务。

    推荐理由:原文给出 GLM 5.3 在 Bedrock 上的接入方式与提示缓存配置,读者可据此评估长周期编码与智能体工作流的落地成本。