如何在 llama.cpp 中运行 Underdog Saluki 27B:2-bit Qwen3.8-27B 工具调用实测指南
教程在 llama.cpp 中对比运行 Underdog Saluki 27B(7.9 GB 的 Qwen3.8-27B 2-bit 量化版)与 ISTA-DASLab 的 GSQ-RCO 量化版,逐张量比对 GGUF 头并做字节级比较。两者在同一 GPU 上测内存与速度,并用 BFCL 官方 checker 在相同种子的 120 个任务上按严格与宽松解析评分。
回到原文
这里保留短导读,不转载来源网站的完整正文。具体表述和后续更新请以原文为准。
打开 AIHOT 原文