MarkTechPost 实测 Underdog Saluki 27B 工具调用

MarkTechPost 发布教程，在原生 llama.cpp 中并排对比 Underdog Saluki 27B 与 ISTA-DASLab 的 Qwen3.8-27B GSQ-RCO 量化文件。Saluki 是 Qwen3.8-27B 的 7.9 GB、约 2-bit 量化版本，制作者称其在自建 120 项基准上工具调用能力甚至超过 54 GB 全量模型。 由于 Underdog Bench 的 120 项任务未公开，MarkTechPost 按 BFCL v4 的五个类别自建了每类 24 项、固定随机种子的测试。教程还记录模型先思考再调用工具时，单次工具调用额外消耗多少 token；报道称六项任务不足以判断思考是否改善工具调用，因此该部分聚焦成本。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。