VocabX 如何为小模型定制词表,将推理成本降低 77%
Dharma AI 在 Hugging Face 博客中介绍即将发布的 VocabX 论文,方法是在不改动基座模型的前提下,按每个 token 的推理成本而非出现频率重建领域专用词表。
Dharma AI 在 Hugging Face 博客中介绍即将发布的 VocabX 论文,方法是在不改动基座模型的前提下,按每个 token 的推理成本而非出现频率重建领域专用词表。
微软研究院 Xinzhi Zhang 与合著者 Zhao Song 证明了 1995 年提出的 Kannan-Lovász-Simonovits(KLS)猜想,证明结果与维度无关,并保持在一个固定常数范围内。此前 2026 年 7 月的最好结果仍允许该界随维度缓慢增长。证明过程采用人类主导的智能体搜索,探索了 100 多条候选路径;同期另有独立团队给出完整证明,并已有 Lean 4 形式化验证。
推荐理由:这篇论文给出了 KLS 猜想证明的完整脉络,并说明人类主导、AI 智能体并行探索的研究流程如何参与其中。
OpenAI、PerturbAI 与 Scripps Research 利用分布式 AI 智能体,从数百万个脑细胞的数据中挖掘出有前景的研究线索。该合作展示了大规模智能体协同在生物数据分析中的实际应用方式。
i14 与 AWS 合作,通过 TorchNeuron Native 的原生 PyTorch 支持,将线性注意力模型 Laplace 3B 移植到 AWS Trainium2,并保留其 Gated Linear Attention(GLA)设计与 Muon 优化器。
Ai2 在 Hugging Face 发布 FairStress 基准,用于衡量 LLM 在招聘、医疗、借贷等决策中的群体公平性,不止看最终选择,还看模型面对对抗性前缀时是否更容易改判。
推荐理由:FairStress 把公平性评测从最终选择扩展到模型被说服后是否改判,并给出可复用的开源基准与数据审计线索。
MIT、波士顿儿童医院与 Inria 的研究者开发并训练了深度学习模型 E(3)-Pose,用于在胎儿头部运动时辅助成像,生成可供放射科医生检查的高分辨率图像。该模型把胎儿头部的左右对称性直接嵌入网络架构,而非仅从数据中学习物理规律,从而更准确地识别大脑朝向。相关论文已在 2026 年欧洲计算机视觉会议上发表,目前模型主要基于第三孕期胎儿训练,团队希望进一步扩展至第二孕期及更小的胎儿。
MIT 研究人员构建了一个面向晶体材料的多模态 AI 模型,将 3D 原子结构与自然语言描述结合,相关论文发表于 Nature Communications。研究显示,该模型在筛选固态锂离子电池电解质材料时,排名靠前的结果包含已被独立认定为有前景的候选材料,并能学到纯文本模型无法获得的几何表征。团队用对比学习让模型对齐结构与文本描述,训练数据包含从实验论文和第一性原理计算数据库生成的描述性文本。
MIT 与 Whitehead 研究所团队开发神经网络模型 IRIS,通过识别各信号通路在不同细胞类型中一致的基因活动“指纹”,重建细胞在胚胎发育中接收过的信号历史。
推荐理由:IRIS 用迁移学习思路跨细胞类型重建信号通路历史,为干细胞工程和类器官研究提供可复用的建模路径。
Ai2 发布 HiRO-ACE 系统的新版本 HiRO-ACEv2,其新降尺度模型 HiROv2 可同时预测多种高分辨率气象场,并提升对极端事件的预测能力。在给定粗化的 X-SHiELD 数据时,HiROv2 对目标模拟的高分辨率统计量匹配误差在 3% 以内,即使事件在百万数据点中仅出现一次;它还能估算热带气旋总能量,并生成具有真实风眼和雨带的飓风。
推荐理由:读者可了解 AI 气候模拟如何以约 1/300 成本生成 3 km 全球极端天气数据,以及其当前适用范围限制。
Datalab 发布开源文档解析基准 OmniParseBench,用 16,288 项是/否测试覆盖 2,937 页、2,343 份文档和 92 种语言,数据集与代码公开。
Leash Bio 基于 DNA 编码库(DEL)积累的高通量蛋白-小分子相互作用数据,训练出 Hermes 模型,在公开基准上与 Boltz 持平。其 Kaggle 竞赛用约 4B 条测量数据、约 2000 支队伍验证了未见化学库上无人超越随机水平。团队将该数据用于智能体科学强化学习,已发展为 Minos,并发布预印本、博客与开放数据集。
研究人员利用 AI 蛋白设计工具,保留两类蛋白酶的催化核心并替换蛋白质其余部分,设计出能定向将特定蛋白质切成两半的酶。他们通过切割与神经疾病相关的蛋白质验证了这些酶的有效性。肽键本身半衰期估计达数百年,而生物体演化出多种催化肽键断裂的蛋白酶。
微软研究人员提出 Probabilistic Bias Correction(PBC)方法,用机器学习识别并纠正现有天气预报模型的系统性偏差,相关成果发表在 Nature 上,工具已开源。
MIT 等机构研究人员在 Nature 发表论文,提出一种机器学习后处理层,通过学习并修正现有预报模型的误差,将两到六周次季节预报的准确率提升一倍,并在 ECMWF 的预报竞赛中夺得第一。该模型首次在次季节尺度上稳定优于气候平均值,并显著改善极端天气预测,可作为附加模块用于任意预报模型,且已开源、运行成本低。肯尼亚气象部门已联系团队,计划用其改进季风季预报以提升农业产量。
推荐理由:该研究用后处理层把两周以上预报准确率翻倍,并首次在次季节尺度上超过气候平均,对农业与能源调度有直接参考。
Apple 研究团队提出一种轻量方法,直接从句语音频中检测语码转换(CS),无需依赖多语种转录。该方法利用预训练语音编码器帧级语种信息,通过单语录音识别语种选择性隐藏状态维度并聚合其帧级激活进行 CS 预测。在 CS-FLEURS 的 14 个语种对上,Whisper-small 编码器取得平均 F1 0.798,高于 CNN 的 0.776 和 HuBERT 线性基线的 0.751。
Apple 提出首个从头预训练的三模态掩码扩散模型(MDM),在文本、图文和音频-文本数据上统一训练,并系统分析多模态缩放规律、模态混合比例与噪声调度。其批次大小分析给出基于 SDE 的重参数化方法,将物理批次与逻辑批次解耦,免去最优批次调参。初步模型在 3B 规模(6.4T tokens)下于文本生成、T2I 和 T2S 任务均取得强劲结果。
MIT McGovern 研究所团队在 PNAS 论文中提出,衡量人工神经网络生物学合理性的关键指标是网络能否在没有开发者干预下自我组织,并证明随机连接的单元组仅凭简单的连接调整规则就能重塑为有效的信息处理网络。该网络依靠自组装基序实现学习,性能与采用反向传播训练的网络相当。研究目标是理解大脑的学习规则,也可能反过来改进机器学习系统。
Google DeepMind 的 AlphaProof Nexus 在 Science 发表的新研究中独立解决了数十个开放数学问题,包括 353 个 Erdős 问题中的 9 个,其中两个已悬置 56 年。
推荐理由:读者可了解 AlphaProof Nexus 在 Erdős 问题与 OEIS 猜想上的具体成果,以及它选择同行评审这一路径的背景。
微软研究院一项研究提出 Fork-and-Flush 方法,让长时运行的 AI 研究智能体在保留工作区文件的同时清空对话上下文并分叉出 K 条并行分支,从而跳出反复收敛到相似解的 idea basins。
Sakana AI 与 UC Berkeley 研究人员提出 Multi-Agent Self-Supervision(MASS),让同一个语言模型同时承担解题、优化工作流和评估结果三种角色,无需更强的教师模型。
微软研究院提出 StudentSim,一个在真实学习者测试前评估和改进 AI 导师的研究系统,通过公开的去标识化学习记录训练个性化学生模拟器,并配套推出覆盖国际象棋、第二语言英语写作和数学的 StudentSimEval 基准与评测协议。
Apple 研究团队在 150M 至 1.43B 四种模型规模、约 1000 次预训练实验中对比发现,混入高资源语言数据(英语)比超参数调优更能改善阿拉伯语低资源预训练效果,且差距随模型规模扩大。混合带来的提升在验证损失上相当于 2–3 倍目标数据,在下游任务准确率上相当于 2–13 倍。研究建议优先调整混合比例,并通过 μP 从小代理模型迁移超参数。
Apple 研究团队评估 LLM 在 MQM 和 Error Span Annotation(ESA)两种机器翻译质量评估方案下与人类标注者的一致性,测试覆盖 70 个语言对的长上下文测试集及公开的 WMT23、WMT25 数据。
评测公司 Vals AI 在 Vibe Code Bench 上测试 GPT-6 Sol 和 Claude Opus 5.5,分别以单智能体和团队形式在 medium 与 maximum 两档推理强度下运行,团队成本是单智能体的 1.8 倍至 5.1 倍。
哈佛大学研究人员Fiona Chen和James Stratton基于Jellyfish的工程团队分析数据,覆盖2021年至2026年3月间700多家软件开发企业、逾70万名员工的3亿条工作事件,发现AI编码工具带来的编码阶段效率提升被下游流程吸收,代码审查成为显著瓶颈。
Google Research 在 NBER 发布一项为期三个月的专利撰写实地实验,将 133 名知识产权律师随机分为两组,一组提前使用当时未发布的 Google Labs AI 专利撰写助手(现属 Gemini Notebook),另一组仅接受 AI 使用培训。
推荐理由:三个月专利撰写实验区分了AI带来的即时产出提升与无辅助判断力的变化,为评估AI对专业能力的影响提供了可参考的设计。
英伟达团队从 Nemotron 3 出发,用监督微调、强化学习和生成-验证-精炼推理流程,在 IOI 2026 与 IMO 2026 两项竞赛中达到金牌水平。
推荐理由:原文公开了从 Nemotron 3 微调到 IOI、IMO 金牌级成绩的完整配方与数据集,可据此复现领域专家模型。