VocabX 如何为小模型定制词表,将推理成本降低 77%
Dharma AI 在 Hugging Face 博客中介绍即将发布的 VocabX 论文,方法是在不改动基座模型的前提下,按每个 token 的推理成本而非出现频率重建领域专用词表。
Dharma AI 在 Hugging Face 博客中介绍即将发布的 VocabX 论文,方法是在不改动基座模型的前提下,按每个 token 的推理成本而非出现频率重建领域专用词表。
微软研究院 Xinzhi Zhang 与合著者 Zhao Song 证明了 1995 年提出的 Kannan-Lovász-Simonovits(KLS)猜想,证明结果与维度无关,并保持在一个固定常数范围内。此前 2026 年 7 月的最好结果仍允许该界随维度缓慢增长。证明过程采用人类主导的智能体搜索,探索了 100 多条候选路径;同期另有独立团队给出完整证明,并已有 Lean 4 形式化验证。
推荐理由:这篇论文给出了 KLS 猜想证明的完整脉络,并说明人类主导、AI 智能体并行探索的研究流程如何参与其中。
i14 与 AWS 合作,通过 TorchNeuron Native 的原生 PyTorch 支持,将线性注意力模型 Laplace 3B 移植到 AWS Trainium2,并保留其 Gated Linear Attention(GLA)设计与 Muon 优化器。
NVIDIA 在德国于利希超级计算中心的欧洲首台百亿亿次超算 JUPITER 上完成 104 比特容错量子计算模拟,称这是迄今规模最大的容错量子处理器完整模拟。
新基准 Taste-Bench 测试 AI 智能体在长任务中做战略选择的能力,表现最好的 GPT-5.6 Sol 在简单二选一问题上正确率仅略低于 60%。延长思考时间并不能提升表现。
Apple 提出 Selection-based Structured Reasoning(SSR)框架,将推理从开放式生成改为选择:把反复出现的高层推理表示为预先指定的可复用自然语言候选,模型每轮从中选择。该框架针对小模型推理冗长、对动作生成帮助有限且推理成本高的问题,目标是提升多模态搜索智能体的效率。
Apple 提出首个从头预训练的三模态掩码扩散模型(MDM),在文本、图文和音频-文本数据上统一训练,并系统分析多模态缩放规律、模态混合比例与噪声调度。其批次大小分析给出基于 SDE 的重参数化方法,将物理批次与逻辑批次解耦,免去最优批次调参。初步模型在 3B 规模(6.4T tokens)下于文本生成、T2I 和 T2S 任务均取得强劲结果。
Google DeepMind 的 AlphaProof Nexus 在 Science 发表的新研究中独立解决了数十个开放数学问题,包括 353 个 Erdős 问题中的 9 个,其中两个已悬置 56 年。
推荐理由:读者可了解 AlphaProof Nexus 在 Erdős 问题与 OEIS 猜想上的具体成果,以及它选择同行评审这一路径的背景。
微软研究院一项研究提出 Fork-and-Flush 方法,让长时运行的 AI 研究智能体在保留工作区文件的同时清空对话上下文并分叉出 K 条并行分支,从而跳出反复收敛到相似解的 idea basins。
Sakana AI 与 UC Berkeley 研究人员提出 Multi-Agent Self-Supervision(MASS),让同一个语言模型同时承担解题、优化工作流和评估结果三种角色,无需更强的教师模型。
评测公司 Vals AI 在 Vibe Code Bench 上测试 GPT-6 Sol 和 Claude Opus 5.5,分别以单智能体和团队形式在 medium 与 maximum 两档推理强度下运行,团队成本是单智能体的 1.8 倍至 5.1 倍。
英伟达团队从 Nemotron 3 出发,用监督微调、强化学习和生成-验证-精炼推理流程,在 IOI 2026 与 IMO 2026 两项竞赛中达到金牌水平。
推荐理由:原文公开了从 Nemotron 3 微调到 IOI、IMO 金牌级成绩的完整配方与数据集,可据此复现领域专家模型。