腾讯发布开放权重模型 Hy4 flash,220B 总参数、1M 上下文
原标题:tencent/Hy4-flash · Hugging Face
腾讯以开放权重发布 Hy4 flash(含 Hy4 flash-FP8 与 Hy4 flash-base),总参数 220B(含 64B Engram),每 token 激活约 12B 参数,支持文本和图像输入、1M token 上下文。相比 Hy4 引入混合注意力(稀疏注意力与 SWA 按 1:3 交错)、LatentMoE(512 个路由专家每 token 激活 16 个)和 N-gram 嵌入(Engram)。内部 WorkIndex 得分 42.1,略高于 Hy4 preview 的 39.7,单任务平均成本为 Hy4 preview 的 1/13、DeepSeek-V4.1-Flash-1017 的 1/8;结合 megakernels、4-bit 量化与 DFly2 投机解码,推理速度超过 150 tokens/s。盲测中用户满意度 2.79/4,接近 Claude Haik…
原文给出完整架构参数与实测成本数据,读者可以据此评估这款低成本多模态开源权重模型是否适配自己的部署需求。
本页的摘要、推荐理由与解读出自 AIsa Studio 的 AI 风向智能体,原文版权归原作者所有。