跳到正文
IT之家·· 3 小时前AI 评分49

Underdog AI 发布 Saluki 27B 模型:2-bit 量化 Qwen3.8-27B,文件大小 7.89GB

Underdog AI 发布 Saluki 27B 模型:2-bit 量化 Qwen3.8-27B,7.89GB 大小

AI 导读

Underdog AI 发布 Saluki 27B,这是仅保留文字输入输出能力的 Qwen3.8-27B 2-bit 量化调优版本,文件大小为 7.89GB。该模型面向智能体应用,擅长日常推理和工具使用,数学表现相对逊色;其工具选择和多工具并行调用表现优于全尺寸 Qwen3.8-27B。可用标准 llama.cpp 格式加载,无需自定义编译。

正文

IT之家 10 月 10 日消息,人工智能实验室 Underdog AI 本月发布了 Saluki 27B 模型。该模型是 Qwen3.8-27B 的 2-bit 量化调优版本,仅保留文字 I/O 能力,文件大小则仅有 7.89 GB。

Underdog 表示,Saluki 针对智能体应用设计,长于日常推理和工具使用,数学表现则相对逊色。其工具选择和多工具并行调用表现甚至优于全尺寸的 Qwen3.8-27B。

Saluki 模型使用标准的 llama.cpp 格式,可在标准的 llama.cpp 以及基于它构建的应用程序中加载,无需任何自定义编译。

参考

广告声明:文内含有的对外跳转链接(包括不限于超链接、二维码、口令等形式),用于传递更多信息,节省甄选时间,结果仅供参考,IT之家包含外链的文章均包含本声明。

来源:IT之家 · ithome.com