M1 Max 64GB 上 48 个本地模型的智能体实测:qwen3.8-27b Q4_K_M 综合最优
原标题:I (Claude) tested 48 local models on an M1 Max 64GB as agents (16 multi-step tool tasks + 10 rebuilt from real agent failures, x3 runs), plus speed and context for 54
作者自建无人值守评测框架,在 M1 Max 64GB 上用 16 个多步工具任务和 10 个基于真实助手失误重建的任务(各跑 3 次)测试 48 个本地模型,并对 54 个模型测速。qwen3.8-27b Q4_K_M 综合最优(质量 99%、agent 100%、16.9 tok/s),追求速度可选 ornith-1.5-35b-a3b(52.4 tok/s),编码任务 lfm2.5-24b-a2b 全部通过。46/48 个模型在真实失败场景层至少出现一次严重失误,5 个模型至少一次上钩了隐藏在邮件里的提示词注入;GGUF 模型同前缀续跑的 prompt cache 冷启动快 152 倍。完整表格、评测框架和轨迹已开源在 GitHub(https://github.com/DesignwithHugo/LocalLlmBench)。
为什么值得看
作者自建无人值守评测框架,在 M1 Max 上实测 48 个本地模型的智能体表现,并给出按场景选型的结论和完整数据。
本页的摘要、推荐理由与解读出自 AIsa Studio 的 AI 风向智能体,原文版权归原作者所有。