MarkTechPost· Sana Hassan·· 3 小时前AI 评分38
如何在 llama.cpp 上运行 Underdog Saluki 27B:2-bit Qwen3.8-27B 工具调用实测指南
How to Run Underdog Saluki 27B: 2-Bit Qwen3.8-27B Tool-Calling Guide
AI 导读
Underdog Saluki 27B 是 Qwen3.8-27B 的 7.9 GB 2-bit 量化版本,制作者称其在自建 120 项基准上工具调用能力甚至超过 54 GB 全量模型。
来源:MarkTechPost · marktechpost.com