Strata 0.43 调参实录:Qwen3.8-Flash-Next 在 RTX 4090 上解码提速 45%
原标题:Tuned Strata config, 2000 PP and 95-105 mean tg
作者在 RTX 4090 + 48 GB 内存、Windows 上对 IQ3_S 量化版 Qwen3.8-Flash-Next 进行 Strata 引擎网格调参,200k 上下文下 prompt 处理达 2076 tok/s,解码均值 95-105 tok/s,峰值 145 tok/s。最有效的三个参数是 --adapt-async 1、--kv-resident 20480 和 STRATA_ADAPT_LAG=2,合计提升解码约 45%;同时发现 --expert-cache 单位是 MiB 而非 slots(填满显存会降 72%),Windows 无法锁定内存导致专家拷贝仍由 CPU 驱动。作者还让 Qwen3.8 自主调参并自建 pi 子智能体扩展保存 KV 状态,总计算上下文达约 450k。
为什么值得看
作者用自己搭的测试框架逐项测出哪些引擎参数有效、哪些反而拖慢,方法和结果都能直接照搬复用。
本页的摘要、推荐理由与解读出自 AIsa Studio 的 AI 风向智能体,原文版权归原作者所有。