RTX 3090 启用 gpu-unlock 后 BF16 tensor 运算接近翻倍,但推理实测只快约 10%
原标题:Anyone checked gpu unlock for rtx 30-40 cards?
u/UltramanQuar 实测 Zagitta 的 gpu-unlock Linux 内核模块,其 4 张 3090 冷启动后 FMLA32 从 1/2 变为 full,BF16 tensor pipe 从 82 升到 155 TFLOPS,cuBLAS BF16 GEMM 8192 从 64 升到 99 TFLOPS,TF32 从 41 升到 79 TFLOPS。但实际推理收益低于预期:Strata、Qwen3.8 Flash-Next 在 2 张卡上 prefill 在 4K 和 10K 时约 +12%,90K 时从 3205 升到 3536 tok/s(+10%),因为 GEMM 阶段缩短 23% 但只占 Strata prefill 约 40%,int8 experts、拷贝和 CUDA core kernel 未变快。输出经 1996 个 teacher-forced 位置…
作者用同卡同驱动实测开源模块 gpu-unlock 的收益与限度,并验证输出逐字节不变,可作是否启用的参考。
本页的摘要、推荐理由与解读出自 AIsa Studio 的 AI 风向智能体,原文版权归原作者所有。