VocabX 如何为小模型定制词表,将推理成本降低 77%
Dharma AI 在 Hugging Face 博客中介绍即将发布的 VocabX 论文,方法是在不改动基座模型的前提下,按每个 token 的推理成本而非出现频率重建领域专用词表。
Dharma AI 在 Hugging Face 博客中介绍即将发布的 VocabX 论文,方法是在不改动基座模型的前提下,按每个 token 的推理成本而非出现频率重建领域专用词表。
微软研究院 Xinzhi Zhang 与合著者 Zhao Song 证明了 1995 年提出的 Kannan-Lovász-Simonovits(KLS)猜想,证明结果与维度无关,并保持在一个固定常数范围内。此前 2026 年 7 月的最好结果仍允许该界随维度缓慢增长。证明过程采用人类主导的智能体搜索,探索了 100 多条候选路径;同期另有独立团队给出完整证明,并已有 Lean 4 形式化验证。
推荐理由:这篇论文给出了 KLS 猜想证明的完整脉络,并说明人类主导、AI 智能体并行探索的研究流程如何参与其中。
Google Research 在 JAMA Network Open 发表研究,用 AI 模型解读无超声专科培训人员操作的盲扫超声图像来评估孕周。在 385 名 16 至 36 周孕妇的队列中,模型平均绝对误差为 4.18 天,专家标准流程为 4.48 天;芝加哥适配后为 4.10 天,内罗毕零本地优化为 4.27 天。
推荐理由:研究给出跨美国与肯尼亚两地、换用不同探头后的前瞻性验证结果,可了解医疗 AI 跨场景泛化的实测表现。
OpenAI、PerturbAI 与 Scripps Research 利用分布式 AI 智能体,从数百万个脑细胞的数据中挖掘出有前景的研究线索。该合作展示了大规模智能体协同在生物数据分析中的实际应用方式。
i14 与 AWS 合作,通过 TorchNeuron Native 的原生 PyTorch 支持,将线性注意力模型 Laplace 3B 移植到 AWS Trainium2,并保留其 Gated Linear Attention(GLA)设计与 Muon 优化器。
Ai2 在 Hugging Face 发布 FairStress 基准,用于衡量 LLM 在招聘、医疗、借贷等决策中的群体公平性,不止看最终选择,还看模型面对对抗性前缀时是否更容易改判。
推荐理由:FairStress 把公平性评测从最终选择扩展到模型被说服后是否改判,并给出可复用的开源基准与数据审计线索。
IBM Research 在 Hugging Face 博客介绍 ALTK-Evolve:用 GPT-4.1 从智能体自身训练任务轨迹中提炼行为准则,追加到系统提示词后,在 τ²-bench 零售域取得 67.5% Pass^4,超过所有前沿模型条目和微调模型 RAFT-30B-A3B 的 61.4%。
推荐理由:原文给出同一套提示词级记忆在零售与航空两个客服域上的完整对照数据,可据此判断不更新权重也能提升智能体可靠性。
NVIDIA 在德国于利希超级计算中心的欧洲首台百亿亿次超算 JUPITER 上完成 104 比特容错量子计算模拟,称这是迄今规模最大的容错量子处理器完整模拟。
MIT、波士顿儿童医院与 Inria 的研究者开发并训练了深度学习模型 E(3)-Pose,用于在胎儿头部运动时辅助成像,生成可供放射科医生检查的高分辨率图像。该模型把胎儿头部的左右对称性直接嵌入网络架构,而非仅从数据中学习物理规律,从而更准确地识别大脑朝向。相关论文已在 2026 年欧洲计算机视觉会议上发表,目前模型主要基于第三孕期胎儿训练,团队希望进一步扩展至第二孕期及更小的胎儿。
MIT 研究人员构建了一个面向晶体材料的多模态 AI 模型,将 3D 原子结构与自然语言描述结合,相关论文发表于 Nature Communications。研究显示,该模型在筛选固态锂离子电池电解质材料时,排名靠前的结果包含已被独立认定为有前景的候选材料,并能学到纯文本模型无法获得的几何表征。团队用对比学习让模型对齐结构与文本描述,训练数据包含从实验论文和第一性原理计算数据库生成的描述性文本。
MIT 与 Whitehead 研究所团队开发神经网络模型 IRIS,通过识别各信号通路在不同细胞类型中一致的基因活动“指纹”,重建细胞在胚胎发育中接收过的信号历史。
推荐理由:IRIS 用迁移学习思路跨细胞类型重建信号通路历史,为干细胞工程和类器官研究提供可复用的建模路径。
微软研究院发布零知识虚拟机 Magnetar,可证明用 Rust、Go 或 C 编写的 RISC-V 程序执行,在 15 个基准程序上比现有最快 zkVM 平均快 10 到 39 倍,证明验证约 12 毫秒。
推荐理由:微软研究院公开 Magnetar 的技术设计与基准数据,可了解零知识证明在通用程序上的性能与密码学取舍。
Apple 研究对比了工具增强 LLM 智能体的两种工具发现架构:主流的 Retrieve-then-Plan(RtP)用用户查询做近似最近邻检索,替代方案 Plan-then-Retrieve(PtR)则先让 LLM 生成描述所需能力的 Abstract Tool Stubs,再以此为查询检索工具注册表。研究针对有限上下文窗口无法注入全部工具定义的问题展开规模评估。
Apple 提出 Selection-based Structured Reasoning(SSR)框架,将推理从开放式生成改为选择:把反复出现的高层推理表示为预先指定的可复用自然语言候选,模型每轮从中选择。该框架针对小模型推理冗长、对动作生成帮助有限且推理成本高的问题,目标是提升多模态搜索智能体的效率。
MIT 可持续供应链实验室发布的《2026 供应链可持续发展状况报告》调查 91 个国家 1810 名从业者,83% 认为可持续发展对长期业务成功重要或非常重要,为七年最高。
Ai2 发布 HiRO-ACE 系统的新版本 HiRO-ACEv2,其新降尺度模型 HiROv2 可同时预测多种高分辨率气象场,并提升对极端事件的预测能力。在给定粗化的 X-SHiELD 数据时,HiROv2 对目标模拟的高分辨率统计量匹配误差在 3% 以内,即使事件在百万数据点中仅出现一次;它还能估算热带气旋总能量,并生成具有真实风眼和雨带的飓风。
推荐理由:读者可了解 AI 气候模拟如何以约 1/300 成本生成 3 km 全球极端天气数据,以及其当前适用范围限制。
MIT 等机构研究人员在 Nature 发表论文,提出一种机器学习后处理层,通过学习并修正现有预报模型的误差,将两到六周次季节预报的准确率提升一倍,并在 ECMWF 的预报竞赛中夺得第一。该模型首次在次季节尺度上稳定优于气候平均值,并显著改善极端天气预测,可作为附加模块用于任意预报模型,且已开源、运行成本低。肯尼亚气象部门已联系团队,计划用其改进季风季预报以提升农业产量。
推荐理由:该研究用后处理层把两周以上预报准确率翻倍,并首次在次季节尺度上超过气候平均,对农业与能源调度有直接参考。
Apple 研究团队提出一种轻量方法,直接从句语音频中检测语码转换(CS),无需依赖多语种转录。该方法利用预训练语音编码器帧级语种信息,通过单语录音识别语种选择性隐藏状态维度并聚合其帧级激活进行 CS 预测。在 CS-FLEURS 的 14 个语种对上,Whisper-small 编码器取得平均 F1 0.798,高于 CNN 的 0.776 和 HuBERT 线性基线的 0.751。
Apple 提出首个从头预训练的三模态掩码扩散模型(MDM),在文本、图文和音频-文本数据上统一训练,并系统分析多模态缩放规律、模态混合比例与噪声调度。其批次大小分析给出基于 SDE 的重参数化方法,将物理批次与逻辑批次解耦,免去最优批次调参。初步模型在 3B 规模(6.4T tokens)下于文本生成、T2I 和 T2S 任务均取得强劲结果。
MIT McGovern 研究所团队在 PNAS 论文中提出,衡量人工神经网络生物学合理性的关键指标是网络能否在没有开发者干预下自我组织,并证明随机连接的单元组仅凭简单的连接调整规则就能重塑为有效的信息处理网络。该网络依靠自组装基序实现学习,性能与采用反向传播训练的网络相当。研究目标是理解大脑的学习规则,也可能反过来改进机器学习系统。
微软研究院提出 StudentSim,一个在真实学习者测试前评估和改进 AI 导师的研究系统,通过公开的去标识化学习记录训练个性化学生模拟器,并配套推出覆盖国际象棋、第二语言英语写作和数学的 StudentSimEval 基准与评测协议。
Apple 研究团队在 150M 至 1.43B 四种模型规模、约 1000 次预训练实验中对比发现,混入高资源语言数据(英语)比超参数调优更能改善阿拉伯语低资源预训练效果,且差距随模型规模扩大。混合带来的提升在验证损失上相当于 2–3 倍目标数据,在下游任务准确率上相当于 2–13 倍。研究建议优先调整混合比例,并通过 μP 从小代理模型迁移超参数。
Apple 研究团队评估 LLM 在 MQM 和 Error Span Annotation(ESA)两种机器翻译质量评估方案下与人类标注者的一致性,测试覆盖 70 个语言对的长上下文测试集及公开的 WMT23、WMT25 数据。
Apple 研究团队提出 Minions,一个聚合 macOS 设备上闲置 Apple Silicon GPU 的动态分布式虚拟 GPU 云,用于执行大规模机器学习推理任务。该系统提供灵活的 GPU 推理任务执行、容错能力和高效资源利用,让团队无需额外采购 GPU 即可利用现有硬件。研究经验表明,在集中式 GPU 资源受限的环境中,闲置 macOS 设备可转化为实用的分布式 GPU 推理平台。
Google Research 在 NBER 发布一项为期三个月的专利撰写实地实验,将 133 名知识产权律师随机分为两组,一组提前使用当时未发布的 Google Labs AI 专利撰写助手(现属 Gemini Notebook),另一组仅接受 AI 使用培训。
推荐理由:三个月专利撰写实验区分了AI带来的即时产出提升与无辅助判断力的变化,为评估AI对专业能力的影响提供了可参考的设计。
英伟达团队从 Nemotron 3 出发,用监督微调、强化学习和生成-验证-精炼推理流程,在 IOI 2026 与 IMO 2026 两项竞赛中达到金牌水平。
推荐理由:原文公开了从 Nemotron 3 微调到 IOI、IMO 金牌级成绩的完整配方与数据集,可据此复现领域专家模型。