腾讯开源Hy4flash:224B参数,百万上下文
AI大模型

腾讯开源Hy4flash:224B参数,百万上下文

腾讯混元11月18日正式开源Hy4flash模型家族。总参数量2240亿,每个token只激活120亿,走的是极致性价比路线。阵容包括标准版Hy4flash、FP8量化版Hy4flash-FP8,以及可从零训练的Base版,一次给齐完整矩阵。

规格上,Hy4flash支持最长100万token的上下文,能处理多模态输入,224B总参数里有64B是Engram参数。腾讯没有放出独立的性能评测,实际水平还得等开发者上手跑过才知道。

下载渠道铺得很开:GitHub、Hugging Face、ModelScope、GitCode都能拿到权重。官方还提供GGUF格式,本地部署门槛进一步压低。想直接用、想量化压缩、想自己重训,三条路都留了口子。

模型不只是发出来看看。腾讯已经把Hy4flash接进旗下多款产品和服务,并预告更大的Hy4模型也会开源。开源大模型这条赛道上,参数和上下文都在往上堆,最后拼的是落地速度和开发者愿不愿意留下来。