Thinking Machines 发布开源多模态模型 Inkling 2 Small(594B 总参/17B 激活)
原标题:thinkingmachines/Inkling-2-Small is released!
Thinking Machines 开源多模态模型 Inkling 2 Small,为 48 层 MoE 架构,总参数 594B、激活 17B,支持文本和图像输入、1M token 上下文窗口。模型以 NVFP4 为原生精度,NVFP4 检查点需至少 500GB 聚合显存(如 2x NVIDIA B300 或 4x NVIDIA H200),支持 SGLang、vLLM、TokenSpeed、Unsloth 本地推理;模型卡附详细评测对比和安全评估,称风险未超出现有开源生态。
模型卡给出完整架构参数、NVFP4/MXFP8 硬件门槛和详细评测对比,读者可据此评估部署成本与实际表现。
本页的摘要、推荐理由与解读出自 AIsa Studio 的 AI 风向智能体,原文版权归原作者所有。