Nanbeige4.3-33B GGUF 量化版发布，AD 文件在同体积下精度优于 llama.cpp 预设

Nanbeige4.3-33B 发布及 GGUF 量化版跟进

2026-10-26，Nanbeige 在 Hugging Face 发布 Nanbeige4.3-33B，定位为 Nanbeige4.3 系列旗舰教师模型，自称在约 30B 参数开源模型中智能体性能领先，并作为后续向 Nanbeige4.3-3B 等小模型蒸馏智能体能力的基础。模型基于 Nanbeige4.3-33B-Base 微调，Apache-2.0 许可，支持中英文。官方基准显示其 Terminal-Bench 2.1 得 80.9、DeepSWE 得 65.5、AIME 2026 得 95.2，多数基准领先 Qwen3.8-27B、Muse-Glimmer-30B 和 Gemma4-31B，但 SWE-Bench Pro 和 GDPval 落后于 Qwen3.8-27B；JobBench 在 35 个职业中的大多数项目优于基线。 随后（10-25 发布的社区帖，属后续进展），AtomicChat 发布该模型的 GGUF 量化文件，称其为 33B 稠密 Agent 与推理模型，Llama 架构、512K 上下文、默认开启思考模式。作者基于 BF16 原始权重自建重要性矩阵制作 AD（Atomic Dynamic）系列量化，大小从 13.7 GB 到 30.1 GB，并附各文件 KL 散度与 top-1 数据；指出该模型对量化较敏感，AD 文件在同体积下优于 llama.cpp 预设，如 AD-IQ4_XS（20.3 GB）的 KL 散度比 Q4_K_M（20.1 GB）低约三分之一，并建议 4 bit 以下量化仅在显存不足时使用。