腾讯开源Hy4flash:224B参数,三个版本可下载
腾讯混元官宣开源Hy4flash系列,含标准版、FP8量化版及可从零训练的Base版,GitHub、Hugging Face、ModelScope、GitCode均可下载,并提供GGUF格式便于本地部署。官方预告更大Hy4模型也将开源。该模型走性价比路线,总参224B,含64B Engram参数。
腾讯混元今天宣布,Hy4flash系列正式开源,标准版Hy4flash、量化版Hy4flash-FP8、面向研究者从零训练的Hy4flash Base三个版本一起放出。下载渠道包括GitHub、Hugging Face、ModelScope、GitCode四个平台,另外还给了GGUF格式,本地部署的玩家可以直接跑。官方还透露,更大的Hy4模型也会开源。

这款模型主打的不是规模,而是划算。它采用稀疏架构,总参数量224B,其中64B为Engram参数,每个token只激活12B,算力省下来,能力也保住了。多模态输入支持,上下文长度100万token,API价格比Hy4下调不少。官方给它的定位是迄今性价比最高的Hy模型。
落地范围也不小:腾讯云TokenHub、元宝、企业微信、QQ、ima、Marvis等产品都已接入。开发者这边,权重能下、协议公开、价格更低,大模型应用的成本门槛又被压低了一截;腾讯这边,开源既是刷存在感,也是靠社区反哺自家生态的惯用打法。