Hugging Face 发布 AnyLanguageModel 1.0,统一 Apple 平台本地与托管模型调用
Hugging Face 发布 AnyLanguageModel 1.0,同时推出 swift-huggingface 1.0 和 swift-xet 1.0。
推荐理由:原文列出 1.0 版本新增的托管模型接入与工具调用、引导生成等能力,可据此判断 Swift 应用选模型的成本变化。
技术方向
跑在手机、电脑与边缘设备上的 AI:小模型、本地推理与端侧芯片的进展。
9 条精选近 30 天 9 条共收录 48 条
Hugging Face 发布 AnyLanguageModel 1.0,同时推出 swift-huggingface 1.0 和 swift-xet 1.0。
推荐理由:原文列出 1.0 版本新增的托管模型接入与工具调用、引导生成等能力,可据此判断 Swift 应用选模型的成本变化。
NVIDIA 宣布 RTX Spark 笔记本即日起开售,将 RTX 显卡与 NVIDIA 全栈 AI 平台整合进轻薄 Windows PC,面向加速创作、沉浸式游戏和本地 AI 场景。华硕、戴尔、惠普、联想、微软和微星将陆续推出相关机型。
推荐理由:原文给出 RTX Spark 笔记本的定位与合作厂商,读者可据此了解本地 AI 能力在 Windows PC 上的落地形态。
NVIDIA 发布 Nemotron 3.5 Super VL,这是一款 120B 参数的开源多模态模型,面向持续在线的专用智能体,官方称其吞吐量最高可达同类模型的 5 倍。
推荐理由:原文给出三款模型的参数规模、部署层级和开放权重,读者可据此判断开源智能体模型从数据中心到端侧的覆盖方式。
NVIDIA 发布 RTX Spark,定位为一台面向创作者、玩家和 AI 智能体的 Windows PC,并于 10 月 16 日在旧金山、柏林、台北、北京、伊斯坦布尔、首尔等地举办发布活动。
推荐理由:NVIDIA 官方公布 RTX Spark 的定位与全球发布活动安排,并汇总多家媒体对本地 AI 与游戏表现的早期评价。
Liquid AI 发布 LFM2.5-24B-A2B,这是一个 24B 参数、每 token 仅 2B 激活参数的推理模型,面向端侧智能体,会先思考再作答并调用工具。
推荐理由:原文给出模型架构、16 项基准对比和端侧推理速度,可据此判断本地智能体的可行边界。
Google DeepMind 与新加坡政府科技局(GovTech)合作,基于轻量级 Gemma 模型在新加坡本地诈骗对话上微调,推出可在普通智能手机上运行的端侧反诈检测模型。
推荐理由:官方披露了端侧反诈模型的两级流水线与治理约束,可观察隐私保护与本地化微调如何结合。
NVIDIA 宣布 RTX Spark 笔记本将于 10 月 16 日上市,最高 128GB 统一内存和 1 petaflop AI 算力,首发覆盖数百款游戏、130 多款加速应用及 PyTorch、CUDA 等开发工具。
推荐理由:NVIDIA 一次性列出 RTX Spark 首发日的本地智能体、创作与开发工具清单,可据此判断本地 AI 工作流的可用边界。
在旧金山 Windows AI and Surface 活动上,英伟达与微软宣布为 Windows PC 上的 AI 智能体共同设计软硬件,微软同时宣布 OS 级基础设施 Microsoft Execution Containers(MXC)正式可用,让智能体在系统管控下安全持久地在后台运行。
推荐理由:英伟达与微软把智能体运行所需的系统级容器和本地算力硬件一并公布,读者可据此了解 Windows 端侧智能体的落地路径。
Liquid AI 发布 d1 决策模型家族的两款开放权重模型 d1-3B 和 d1-omni-600M(实验性)。
推荐理由:Liquid AI 公开两款决策模型及端侧与 GPU 实测延迟,可据此判断单次前向决策在边缘设备上的可用性。