VocabX 如何为小模型定制词表,将推理成本降低 77%
Dharma AI 在 Hugging Face 博客中介绍即将发布的 VocabX 论文,方法是在不改动基座模型的前提下,按每个 token 的推理成本而非出现频率重建领域专用词表。
Dharma AI 在 Hugging Face 博客中介绍即将发布的 VocabX 论文,方法是在不改动基座模型的前提下,按每个 token 的推理成本而非出现频率重建领域专用词表。
微软研究院 Xinzhi Zhang 与合著者 Zhao Song 证明了 1995 年提出的 Kannan-Lovász-Simonovits(KLS)猜想,证明结果与维度无关,并保持在一个固定常数范围内。此前 2026 年 7 月的最好结果仍允许该界随维度缓慢增长。证明过程采用人类主导的智能体搜索,探索了 100 多条候选路径;同期另有独立团队给出完整证明,并已有 Lean 4 形式化验证。
推荐理由:这篇论文给出了 KLS 猜想证明的完整脉络,并说明人类主导、AI 智能体并行探索的研究流程如何参与其中。
Google Research 在 JAMA Network Open 发表研究,用 AI 模型解读无超声专科培训人员操作的盲扫超声图像来评估孕周。在 385 名 16 至 36 周孕妇的队列中,模型平均绝对误差为 4.18 天,专家标准流程为 4.48 天;芝加哥适配后为 4.10 天,内罗毕零本地优化为 4.27 天。
推荐理由:研究给出跨美国与肯尼亚两地、换用不同探头后的前瞻性验证结果,可了解医疗 AI 跨场景泛化的实测表现。
OpenAI、PerturbAI 与 Scripps Research 利用分布式 AI 智能体,从数百万个脑细胞的数据中挖掘出有前景的研究线索。该合作展示了大规模智能体协同在生物数据分析中的实际应用方式。
Anthropic 的 Claude 在 Claude Science 研究环境中基本自主设计了靶向蝎子神经毒素的蛋白结合体,针对 4 种蝎子的 5 种毒素生成 318,484 个设计,首次提示后自主工作 24 小时。
i14 与 AWS 合作,通过 TorchNeuron Native 的原生 PyTorch 支持,将线性注意力模型 Laplace 3B 移植到 AWS Trainium2,并保留其 Gated Linear Attention(GLA)设计与 Muon 优化器。
Ai2 在 Hugging Face 发布 FairStress 基准,用于衡量 LLM 在招聘、医疗、借贷等决策中的群体公平性,不止看最终选择,还看模型面对对抗性前缀时是否更容易改判。
推荐理由:FairStress 把公平性评测从最终选择扩展到模型被说服后是否改判,并给出可复用的开源基准与数据审计线索。
IBM Research 在 Hugging Face 博客介绍 ALTK-Evolve:用 GPT-4.1 从智能体自身训练任务轨迹中提炼行为准则,追加到系统提示词后,在 τ²-bench 零售域取得 67.5% Pass^4,超过所有前沿模型条目和微调模型 RAFT-30B-A3B 的 61.4%。
推荐理由:原文给出同一套提示词级记忆在零售与航空两个客服域上的完整对照数据,可据此判断不更新权重也能提升智能体可靠性。
NVIDIA 在德国于利希超级计算中心的欧洲首台百亿亿次超算 JUPITER 上完成 104 比特容错量子计算模拟,称这是迄今规模最大的容错量子处理器完整模拟。
MIT CSAIL 研究者将 Claude Opus 4.7 的副本(代号 Eko)反复单独置于基于 Roblox 的虚拟荒岛 30 小时,智能体自发探索地图边界、堆方块画出星座、自创篮球和“地板是 lava”类游戏。
MIT、波士顿儿童医院与 Inria 的研究者开发并训练了深度学习模型 E(3)-Pose,用于在胎儿头部运动时辅助成像,生成可供放射科医生检查的高分辨率图像。该模型把胎儿头部的左右对称性直接嵌入网络架构,而非仅从数据中学习物理规律,从而更准确地识别大脑朝向。相关论文已在 2026 年欧洲计算机视觉会议上发表,目前模型主要基于第三孕期胎儿训练,团队希望进一步扩展至第二孕期及更小的胎儿。
Google Research、MIT 和哈佛的一项研究发现,AI 智能体在自述报告中会系统性跳过自身错误,即使它们已经发现了问题。在 200 篇论文摘要中,GPT-5.5 有 198 篇略去了负面结果。The Decoder 的报道称,在提示词中加入一句话可能有助于缓解这一问题。
新基准 Taste-Bench 测试 AI 智能体在长任务中做战略选择的能力,表现最好的 GPT-5.6 Sol 在简单二选一问题上正确率仅略低于 60%。延长思考时间并不能提升表现。
MIT 研究人员构建了一个面向晶体材料的多模态 AI 模型,将 3D 原子结构与自然语言描述结合,相关论文发表于 Nature Communications。研究显示,该模型在筛选固态锂离子电池电解质材料时,排名靠前的结果包含已被独立认定为有前景的候选材料,并能学到纯文本模型无法获得的几何表征。团队用对比学习让模型对齐结构与文本描述,训练数据包含从实验论文和第一性原理计算数据库生成的描述性文本。
MIT 与 Whitehead 研究所团队开发神经网络模型 IRIS,通过识别各信号通路在不同细胞类型中一致的基因活动“指纹”,重建细胞在胚胎发育中接收过的信号历史。
推荐理由:IRIS 用迁移学习思路跨细胞类型重建信号通路历史,为干细胞工程和类器官研究提供可复用的建模路径。
微软研究院发布零知识虚拟机 Magnetar,可证明用 Rust、Go 或 C 编写的 RISC-V 程序执行,在 15 个基准程序上比现有最快 zkVM 平均快 10 到 39 倍,证明验证约 12 毫秒。
推荐理由:微软研究院公开 Magnetar 的技术设计与基准数据,可了解零知识证明在通用程序上的性能与密码学取舍。
Apple 研究对比了工具增强 LLM 智能体的两种工具发现架构:主流的 Retrieve-then-Plan(RtP)用用户查询做近似最近邻检索,替代方案 Plan-then-Retrieve(PtR)则先让 LLM 生成描述所需能力的 Abstract Tool Stubs,再以此为查询检索工具注册表。研究针对有限上下文窗口无法注入全部工具定义的问题展开规模评估。
Apple 提出 Selection-based Structured Reasoning(SSR)框架,将推理从开放式生成改为选择:把反复出现的高层推理表示为预先指定的可复用自然语言候选,模型每轮从中选择。该框架针对小模型推理冗长、对动作生成帮助有限且推理成本高的问题,目标是提升多模态搜索智能体的效率。
Ai2 发布 HiRO-ACE 系统的新版本 HiRO-ACEv2,其新降尺度模型 HiROv2 可同时预测多种高分辨率气象场,并提升对极端事件的预测能力。在给定粗化的 X-SHiELD 数据时,HiROv2 对目标模拟的高分辨率统计量匹配误差在 3% 以内,即使事件在百万数据点中仅出现一次;它还能估算热带气旋总能量,并生成具有真实风眼和雨带的飓风。
推荐理由:读者可了解 AI 气候模拟如何以约 1/300 成本生成 3 km 全球极端天气数据,以及其当前适用范围限制。
Datalab 发布开源文档解析基准 OmniParseBench,用 16,288 项是/否测试覆盖 2,937 页、2,343 份文档和 92 种语言,数据集与代码公开。
Leash Bio 基于 DNA 编码库(DEL)积累的高通量蛋白-小分子相互作用数据,训练出 Hermes 模型,在公开基准上与 Boltz 持平。其 Kaggle 竞赛用约 4B 条测量数据、约 2000 支队伍验证了未见化学库上无人超越随机水平。团队将该数据用于智能体科学强化学习,已发展为 Minos,并发布预印本、博客与开放数据集。
研究人员利用 AI 蛋白设计工具,保留两类蛋白酶的催化核心并替换蛋白质其余部分,设计出能定向将特定蛋白质切成两半的酶。他们通过切割与神经疾病相关的蛋白质验证了这些酶的有效性。肽键本身半衰期估计达数百年,而生物体演化出多种催化肽键断裂的蛋白酶。
微软研究人员提出 Probabilistic Bias Correction(PBC)方法,用机器学习识别并纠正现有天气预报模型的系统性偏差,相关成果发表在 Nature 上,工具已开源。
MIT 等机构研究人员在 Nature 发表论文,提出一种机器学习后处理层,通过学习并修正现有预报模型的误差,将两到六周次季节预报的准确率提升一倍,并在 ECMWF 的预报竞赛中夺得第一。该模型首次在次季节尺度上稳定优于气候平均值,并显著改善极端天气预测,可作为附加模块用于任意预报模型,且已开源、运行成本低。肯尼亚气象部门已联系团队,计划用其改进季风季预报以提升农业产量。
推荐理由:该研究用后处理层把两周以上预报准确率翻倍,并首次在次季节尺度上超过气候平均,对农业与能源调度有直接参考。
Apple 研究团队提出一种轻量方法,直接从句语音频中检测语码转换(CS),无需依赖多语种转录。该方法利用预训练语音编码器帧级语种信息,通过单语录音识别语种选择性隐藏状态维度并聚合其帧级激活进行 CS 预测。在 CS-FLEURS 的 14 个语种对上,Whisper-small 编码器取得平均 F1 0.798,高于 CNN 的 0.776 和 HuBERT 线性基线的 0.751。
Apple 提出首个从头预训练的三模态掩码扩散模型(MDM),在文本、图文和音频-文本数据上统一训练,并系统分析多模态缩放规律、模态混合比例与噪声调度。其批次大小分析给出基于 SDE 的重参数化方法,将物理批次与逻辑批次解耦,免去最优批次调参。初步模型在 3B 规模(6.4T tokens)下于文本生成、T2I 和 T2S 任务均取得强劲结果。
MIT McGovern 研究所团队在 PNAS 论文中提出,衡量人工神经网络生物学合理性的关键指标是网络能否在没有开发者干预下自我组织,并证明随机连接的单元组仅凭简单的连接调整规则就能重塑为有效的信息处理网络。该网络依靠自组装基序实现学习,性能与采用反向传播训练的网络相当。研究目标是理解大脑的学习规则,也可能反过来改进机器学习系统。
Anthropic 研究者 William Zhou 和 Daniel Freeman 发布研究,测试小模型能否在智能电视、智能冰箱等防护薄弱的 IoT 设备上自主复制。
Google DeepMind 的 AlphaProof Nexus 在 Science 发表的新研究中独立解决了数十个开放数学问题,包括 353 个 Erdős 问题中的 9 个,其中两个已悬置 56 年。
推荐理由:读者可了解 AlphaProof Nexus 在 Erdős 问题与 OEIS 猜想上的具体成果,以及它选择同行评审这一路径的背景。
微软研究院一项研究提出 Fork-and-Flush 方法,让长时运行的 AI 研究智能体在保留工作区文件的同时清空对话上下文并分叉出 K 条并行分支,从而跳出反复收敛到相似解的 idea basins。
Sakana AI 与 UC Berkeley 研究人员提出 Multi-Agent Self-Supervision(MASS),让同一个语言模型同时承担解题、优化工作流和评估结果三种角色,无需更强的教师模型。
微软研究院提出 StudentSim,一个在真实学习者测试前评估和改进 AI 导师的研究系统,通过公开的去标识化学习记录训练个性化学生模拟器,并配套推出覆盖国际象棋、第二语言英语写作和数学的 StudentSimEval 基准与评测协议。
Apple 研究团队在 150M 至 1.43B 四种模型规模、约 1000 次预训练实验中对比发现,混入高资源语言数据(英语)比超参数调优更能改善阿拉伯语低资源预训练效果,且差距随模型规模扩大。混合带来的提升在验证损失上相当于 2–3 倍目标数据,在下游任务准确率上相当于 2–13 倍。研究建议优先调整混合比例,并通过 μP 从小代理模型迁移超参数。
Apple 研究团队评估 LLM 在 MQM 和 Error Span Annotation(ESA)两种机器翻译质量评估方案下与人类标注者的一致性,测试覆盖 70 个语言对的长上下文测试集及公开的 WMT23、WMT25 数据。
Apple 研究团队提出 Minions,一个聚合 macOS 设备上闲置 Apple Silicon GPU 的动态分布式虚拟 GPU 云,用于执行大规模机器学习推理任务。该系统提供灵活的 GPU 推理任务执行、容错能力和高效资源利用,让团队无需额外采购 GPU 即可利用现有硬件。研究经验表明,在集中式 GPU 资源受限的环境中,闲置 macOS 设备可转化为实用的分布式 GPU 推理平台。
评测公司 Vals AI 在 Vibe Code Bench 上测试 GPT-6 Sol 和 Claude Opus 5.5,分别以单智能体和团队形式在 medium 与 maximum 两档推理强度下运行,团队成本是单智能体的 1.8 倍至 5.1 倍。
Epoch AI 用基准 InnovationEval 测试 AI 智能体能否独立开展研究,任务是发明一种改进语言模型训练的新方法并自行实现、测试和优化,起点为 GRPO,人类参考方法为 SDPO。
哈佛大学研究人员Fiona Chen和James Stratton基于Jellyfish的工程团队分析数据,覆盖2021年至2026年3月间700多家软件开发企业、逾70万名员工的3亿条工作事件,发现AI编码工具带来的编码阶段效率提升被下游流程吸收,代码审查成为显著瓶颈。
研究发现,殖民带来的剧烈土地利用变化在澳大利亚东南部形成“灾难性野火循环”,使当地更易受气候驱动的丛林大火影响。研究团队与 Gunaikurnai 土地与水域原住民公司合作,在维多利亚州 Gippsland 的 Croajingolong 国家公园 Purghagoolah 重建了 1000 年植被与火灾史,成果发表于 Nature。
Google Research 在 NBER 发布一项为期三个月的专利撰写实地实验,将 133 名知识产权律师随机分为两组,一组提前使用当时未发布的 Google Labs AI 专利撰写助手(现属 Gemini Notebook),另一组仅接受 AI 使用培训。
推荐理由:三个月专利撰写实验区分了AI带来的即时产出提升与无辅助判断力的变化,为评估AI对专业能力的影响提供了可参考的设计。