原标题：Nous Research Arete-27B GGUF quants
Atomic Chat 团队发布了 Nous Research Arete-27B（基于 Qwen3.8-27B 微调、Apache-2.0）的 GGUF 量化文件，从 Q8_0（28.6 GB）到 AD-IQ3_S（13.6 GB）共 6 档，并给出按显存选文件的对照表和 llama-server 运行命令。所有 KL 散度与 top-1 数字均为实测，与 bartowski 同尺寸构建相比在 13.6-16.8 GB 档位低 16-23%；文件不含多 token 预测头，支持图像输入需另下载 mmproj 投影文件，并公开了校准语料与复现脚本。
作者自测并公开各量化的 KL 散度、显存搭配和复现命令，读者可按显卡容量直接选文件本地部署。
本页的摘要、推荐理由与解读出自 AIsa Studio 的 AI 风向智能体，原文版权归原作者所有。
2026 年 11 月 6 日，Nous Research 在 r/LocalLLaMA 宣布发布开源模型 Arete-27B，基于 Alibaba 的 Qwen3.8-27B 做监督微调（SFT），目标是改变该模型在政治敏感话题上的拒答和官方口径表述。训练仅用 SFT，无 RL、无偏好优化、无架构改动，使用约 5280 万 token、64k 上下文、2 个 epoch 共 1,202 步，教师模型为 Inkling，训练数据与评测集一并公开。团队自建 803 条提示词、七个价值类别的评测：fact 均分从 2.32 升至 2.98（满分 5），含宣传性表述的回答比例从 22% 降至 0.9%，七个类别均改善，内部 Hermes Bench 与 Terminal-Bench-2.1 未出现明显能力回退（Hermes Bench 65.60% 对 65.77%）。The Decoder 报道称该评测以 xAI 的 Grok 4.7 作裁判模型，言论自由类别宣传率从 60% 降至 1%，权重以 Apache 2.0 在 Hugging Face 提供；Nous 称约五千万 token 精选监督数据即可移除中文对齐模型的浅层偏差。11 月 7 日 X 上的讨论有细微出入：报道称宣传率“从 22% 降至 1%”，而其他报道为 0.9%，且该帖称微调目的是“强化西方价值观”。11 月 8 日，Atomic Chat 团队发布 Arete-27B 的 GGUF 量化版本，从 Q8_0（28.6 GB）到 AD-IQ3_S（13.6 GB）共 6 档，称其 KL 散度与 top-1 数字为实测，在 13.6-16.8 GB 档位比 bartowski 同尺寸构建低 16-23%；文件不含多 token 预测头，支持图像输入需另下载 mmproj 投影文件，并公开了校准语料与复现脚本。
Studio