Thinking Machines 发布 Inkling 2 Small:自主微调模型 4.5 小时花费 $426,预测分数翻倍以上
原标题:Thinking Machines' new model fine-tuned another model by itself - 4.5 hours, $426, no human in the loop
Thinking Machines Lab 于 11 月 5 日发布 Inkling 2 Small,并展示该模型自主完成一个完整 ML 项目:探索数据、自写评估器、构建训练集、在 Tinker 上运行 SFT 和 RL 实验并自行调试,4.5 小时花费 $426,公司报告训练后的模型在时序预测任务上分数超过基座模型两倍。该模型为 594B MoE、17B 激活,用 RL 在数十万个长时程编码任务上训练;目前已通过 Tinker Playground 以闭源权重提供,官方称计划在外部安全测试和红队测试后于下周以 Apache 2.0 发布完整权重,该开源部分尚未落地。作者提醒任务来自公司内部基准、评估器由模型自己编写,应视为工作流演示而非独立测量。
原文区分了官方演示与独立测量,指出评估器由模型自写、结果来自公司报告,读者可以据此校准对这项 autoresearch 演示的预期。
本页的摘要、推荐理由与解读出自 AIsa Studio 的 AI 风向智能体,原文版权归原作者所有。