腾讯混元Hy4 flash开源:224B参数、百万上下文,三版本可下载
腾讯混元宣布开源Hy4 flash系列,放出Hy4 flash、Hy4 flash‑FP8、Hy4 flash‑Base三个版本,开发者可在GitHub、Hugging Face、ModelScope、GitCode获取权重部署。官方透露正在推进原版Hy4模型的开源工作。
腾讯混元11月18日宣布,Hy4 flash系列正式开源。这次放出的版本有三个:Hy4 flash、Hy4 flash-FP8、Hy4 flash-Base。开发者可在GitHub、Hugging Face、ModelScope、GitCode上获取权重并部署。官方还透露,原版Hy4模型的开源工作正在推进中。

按官方定位,Hy4 flash是Hy系列里性价比最高的一款。它总参数量224B,其中包含64B Engram参数,单Token只激活12B参数,支持多模态输入和100万Token超长上下文,API调用成本比Hy4大幅下降。目前该模型已落地腾讯云TokenHub、WorkBuddy、元宝、企业微信、QQ等多款内部产品。