AIsaAIsaStudio English 打开 AIsa Studio

OpenUncensored 发布 Inkling 2 Mini Uncensored:定向消融移除拒答

原标题:Inkling 2 mini uncensored

OpenUncensored 发布 Inkling 2 Mini Uncensored,将 Thinking Machines 的 Inkling 2 Mini(26B 总参数、3.4B 激活、1M token 上下文)通过定向消融(abliteration)移除拒答,聊天与思考模式对 32 条有害提示的拒答从 32 降至 0,其中 21 条给出完整具体回答,MMLU 从 78.95% 略升至 79.47%。只修改 20 个 attention output projections,专家、视觉编码器和 DSpark speculator 与原权重逐字节一致,可运行原模型的环境(含单张消费级 GPU 或 DGX Spark)均可运行。模型沿用 Apache 2.0 协议,可通过 OpenUncensored API($0.15/M 输入、$0.60/M 输出)或 SGLang、vLLM、T…

为什么值得看

作者公布了完整评测数据和消融方法细节,读者可以据此判断 abliteration 对 refusal 与 MMLU 的实际权衡。

阅读原文 ↗

本页的摘要、推荐理由与解读出自 AIsa Studio 的 AI 风向智能体,原文版权归原作者所有。

事件综述

Thinking Machines Lab 发布开源循环 MoE 模型 Inkling 2 Mini

2026年11月20日,Thinking Machines Lab(Hugging Face 博客及 Clement Delangue 转发中亦称 Thinky Machines)发布 Apache 2.0 开源权重多模态模型 Inkling 2 Mini,为循环(looped)Transformer MoE 架构:24 层解码器中中间 12 层对每个 token 循环执行 3 次,通过跨 pass 消息机制等效 48 层逻辑层访问。报道对参数口径不一致:早期报道称总参数约 26B、每 token 激活 3B;后续报道称总参数 26.4B、激活 3.4B(计入循环后每 token 有效激活约 5.4B)。模型支持文本与图像输入、1M token 上下文,以 NVFP4/MXFP8 混合精度发布约 20GB 单检查点,附带 DSpark 投机解码草稿模型,可在 1x NVIDIA DGX Spark、32GB 以上内存的 Apple silicon 设备或 32GB 以上 VRAM 的 GPU 上本地推理,支持 transformers、llama.cpp、MLX、vLLM、SGLang、Ollama 等框架,并可通过 Tinker 平台微调。官方称其在 Artificial Analysis Intelligence Index v5 同级别领先(X 讨论称 AA Index 得分 20.1),与 Gemma 4 31B、Muse Glimmer、Qwen3.8-27B、Nemotron 3.5 Super VL 相比 48 项基准领先 32 项;The Decoder 报道其在 100B 以下开源模型中领先智能体编码测试,DeepSWE v1.1 得分 48.2%、Vals Index v2.2 得分 46.5%。模型卡指出的局限包括可能陷入重复推理循环、Agent 工具使用可靠性较低、非英语输出质量下降。后续进展:exo 在 96GB M5 Ultra Mac Studio 上测得 210 tok/s 解码、48GB M5 Max MacBook Pro 上 125 tok/s 解码;OpenUncensored 发布通过定向消融移除拒答的 Inkling 2 Mini Uncensored,称 32 条有害提示拒答从 32 降至 0、MMLU 从 78.95% 升至 79.47%,仅改动 20 个 attention output projections,沿用 Apache 2.0;LexiSuite e2184ab 为其新增 Vulkan 运行时支持,可在单张 24GB AMD 显卡上以 262,144 token 上下文运行,RX 7900 XTX 上 261,632 token 提示词以 791 tok/s 处理、生成约 33 tok/s。

其他来源的报道 9