Thinking Machines Lab 开源 looped transformer 模型 Inkling 2 Mini:26.4B 参数、1M 上下文、可…
原标题:thinkingmachines/Inkling-2-Mini (MoE: 26b, a3B)
Thinking Machines Lab 发布开源权重多模态模型 Inkling 2 Mini,采用 looped transformer 架构,总参数 26.4B、激活参数 3.4B(中间 12 层循环三次,等效激活约 5.4B),支持文本和图像输入、1M token 上下文窗口,Apache 2.0 许可。模型以约 20GB 混合 NVFP4/MXFP8 精度单检查点发布,可在 1x NVIDIA DGX Spark、32GB 以上内存的 Apple silicon 设备或 32GB 以上 VRAM 的 GPU 上本地推理,支持 vLLM、SGLang、llama.cpp、Ollama 等框架。基准测试显示其在编码和 Agent 任务上对比同规模模型表现突出;模型卡同时指出该模型可能陷入重复推理循环、Agent 工具使用可靠性较低、非英语(如中文)输出质量下降等局限。
官方模型卡给出参数结构、本地硬件要求和基准对比,读者可以据此评估它是否适合本地部署和 Agent 用途。
本页的摘要、推荐理由与解读出自 AIsa Studio 的 AI 风向智能体,原文版权归原作者所有。