腾讯混元开源Hy4flash:224B参数、激活12B,四个平台可下载
腾讯混元今日官宣开源 Hy4flash 系列,一口气放出三个版本:标准版 Hy4flash、量化后的 Hy4flash-FP8,以及供研究者从零训练的 Hy4flash Base。GitHub、Hugging Face、ModelScope、GitCode 四个平台均可下载,还额外提供了 GGUF
腾讯混元今日宣布开源Hy4flash系列,三个版本一次性放出:标准版Hy4flash、量化版Hy4flash-FP8,以及面向研究者从零训练的Hy4flash Base。下载渠道覆盖GitHub、Hugging Face、ModelScope、GitCode四个平台,另外还给出GGUF格式,本地部署的玩家可以直接跑。官方同时透露,规模更大的Hy4模型也在开源计划之中。

它主打的是划算,而不是最大。模型采用稀疏架构,总参数量224B,内含64B Engram参数,每个token只激活12B,算力省下来,能力也保住了。多模态输入支持,上下文长度100万token,API价格比Hy4降了不少。官方给它贴的标签是:迄今性价比最高的Hy模型。
落地范围也铺得挺开,腾讯云TokenHub、元宝、企业微信、QQ、ima、Marvis等产品都已接入。权重能下载、协议公开、价格更低,开发者做大模型应用的成本门槛因此又低了一截。对腾讯自己来说,开源既是在社区里刷存在感,也是借外部力量反哺自家生态的常见做法。