System One vs System Two:行业正回归专用小模型
原标题:System One model vs System Two: the industry just went full circle back to specialized models
作者以 BotsCrew 工程师内部讨论为起点,分析行业从“什么都用 LLM”转向专用 System One 模型的趋势。决策模型(TypeSafe 的 Jev、Cloudflare 的 Clef、OpenAI 的 Decisions API)返回选项和概率,OpenAI 称 Decisions API 约比常规模式快 10 倍(demo 约 100 ms),$0.10/1M 输入 token 且输出免费;抽取模型(Cloudflare Clairic 预览版)按 schema 填字段、缺失返回 null。Cloudflare 保险理赔 demo 中 Clairic 抽取加 Clef 决策加 LLM 回复共 19.3s,对比纯 LLM 的 61.7s。作者提醒数字多来自厂商、Clairic 只保证格式正确而非内容正确,建议先在 pipeline 中标记返回标签或单字段的步骤,按出错代价决…
为什么值得看
作者把决策模型和抽取模型这两类 System One 模型的定位、价格和适用步骤讲清楚了,并给出一条评估现有 pipeline 的方法。
本页的摘要、推荐理由与解读出自 AIsa Studio 的 AI 风向智能体,原文版权归原作者所有。