作者开源 sFNX 引擎，用 3 张 V100 在旧 R740 上跑 Qwen3.8-Flash-Next 达 382 tok/s

原标题：I built an engine that runs Qwen-Flash-Next at nearly 400t/s on cheap(ish) hardware. 3x V100 32GB in an old R740. Originally forked from strata but the engine guts all built for the old Volta generation.

作者发布了开源推理引擎 sFNX，在约 1800 美元的三张二手 Tesla V100-32GB（无 NVLink、PCIe Gen3）上让 Qwen3.8-Flash-Next 达到 382 tok/s 的代码编辑 greedy 速度。引擎自行实现跨卡环形写入绕过 NCCL 限制，按层逐张卡拆分专家、K/V、输出头等权重，可同时服务六路对话，每路保持 262,144-token 上下文；也支持两卡配置，并给出与 Strata 的对比数据和完整部署文档（https://github.com/johnfink8/sfnx）。

本页的摘要、推荐理由与解读出自 AIsa Studio 的 AI 风向智能体，原文版权归原作者所有。