腾讯混元Hy4 flash发布:224B参数、1M上下文,API降价
腾讯混元Hy4 flash发布 支持多模态和1M上下文长度 任务速度大幅提升
智通财经APP获悉,11月16日,腾讯混元正式推出Hy4 flash。这是目前Hy系列中性价比最高的模型:总参数量224B(含64B Engram参数),激活参数12B,支持多模态和1M上下文长度,API价格较Hy4大幅下调。

为了在压到极致的成本下同时守住智能水平和实用性,团队在多个环节做了工作。预训练阶段,Hy4 flash引入混合注意力、LatentMoE、Engram等架构特性,KV cache仅为Hy3的1/24、Hy4的1/6;同时用大量scaling ladder实验确认效果符合预期。
后训练阶段,先通过自蒸馏Hy4获得较强的综合智能水平,再用强化学习把端到端任务输出长度压低了50%。
评估环节,团队搭建了基于WorkBuddy典型任务的内部评测集WorkIndex,并引入人评,关注的是日常工作的产物效果、单轮输出长度和端到端用时,而不是那些离日常工作很远的公开榜单分数。
推理阶段则结合megakernel、4bit量化、DFly等手段做优化,Hy4 flash解码速度超过150 tps,并具备大规模低成本部署运营的能力。
综合效果上,Hy4 flash略优于Hy4 preview。在WorkIndex上,其单任务成本只有Hy4 preview的1/13、Hy4的1/20,也仅为DeepSeek-V4.1-Flash-1017(max档位,忙时价格)的1/8。