Qwen3.8-2.4T-A95B-Quark-MXFP4
MODEL PROFILE模型资料amd · 2026-08-11 发布 · 开源权重
Qwen3.8 系列的纯文本开源权重模型,以 amd Quark 工具链的 MXFP4 低精度格式发布,面向需要自行部署、并希望压低显存占用的团队,而不是依赖现成 API 的调用方。
模型介绍
Qwen3.8-2.4T-A95B-Quark-MXFP4 属于 Qwen3.8 系列,是 amd 以 Quark 量化格式发布的开放权重版本,仅支持文本输入与文本输出。名称中的 2.4T-A95B 沿用总参数与激活参数的标注习惯,指向稀疏激活的大体量结构;Quark-MXFP4 则说明权重以 4 比特微缩放浮点格式分发,目标是降低显存占用与部署门槛。它要解决的核心问题在于把大体量模型放进有限的推理硬件,并不追求能力上限:官方价格未公开,第三方跑分缺失,也暂无云平台上架,实际可用性需要使用者自己在目标硬件上验证。
选型建议有能力自建推理、愿意自测精度并需要压缩显存的团队可以选它;要现成 API、跑分背书或多模态能力则暂不适用。
关键指标
适用场景
- 在自有加速卡集群上部署纯文本生成服务,验证 4 比特权重的显存收益
- 为 Qwen3.8 系列做选型,对比量化版本与原始精度版本的效果差距
- 接入支持 MXFP4 的推理框架,压测吞吐与单卡可承载的副本数
- 作为离线文本处理流水线的候选基座模型,先做小流量灰度验证
暂无:上下文窗口、最大输出、知识截止、模型家族、许可证、参数规模、输入价、输出价、缓存读价、缓存写价、推理、工具调用、结构化输出、附件、温度调节(上游未公开,本站不估算)。 没有任何平台收录,也没有公开报价:可能是自部署权重或尚未开放调用;发布 93 天。
规格与能力
上面没列到的字段公开资料对结构细节披露有限,只能依据命名方式与发布形态作出大致的定性判断。
- 结构按命名惯例为稀疏激活的大体量模型,Quark-MXFP4 指权重以 4 比特微缩放浮点格式分发,运行时需配套的量化推理支持。
- 能力输入输出均为纯文本,能力项未做标注,指令跟随与推理表现需以官方模型卡或自行评测为准。
- 披露上下文长度、训练数据、许可条款等关键信息在现有数据中缺失,正式选型前应先核对官方说明。
- 开源权重
- 是
同系列其他规格
| 型号 | 厂商 | 参数 | 上下文 | 输入价 | 输出价 |
|---|---|---|---|---|---|
| Qwen3.8 2.4T A95B | Alibaba | — | 1.05M | $2/M | $6/M |
| Qwen3.8 2.4T A95B (NVFP4) | RunInfra | — | 262.1K | $2/M | $6/M |
| Qwen3.8-2.4T-A95B | Qwen | — | — | — | — |
| Qwen3.8-2.4T-A95B-NVFP4 | NVIDIA | — | — | — | — |
性能表现
缺少公开跑分,以下只是发布形态带来的定性判断,不构成精度结论。
- 强项4 比特量化明显压低权重显存占用,同样数量的加速卡可承载更大体量模型,适合显存受限的自建推理环境。
- 短板低精度格式存在精度损失风险,且强依赖推理框架对 MXFP4 的支持程度,生态适配不足时调优成本会上升。
- 适合有硬件条件与评测能力、愿意用自测替代榜单背书的团队;需要开箱即用或多模态能力时并不合适。
价格与性价比
结合各平台报价与同类对比官方价格未公开,可检索到的上架平台数为零,因此只能讨论成本结构,无法给出具体价格。
- 定位以开放权重分发,开销主要落在自建推理的硬件、电力与运维,而非按 token 计费。
- 横向对比同列表中的 GLM、MiniMax 与 Qwen3.8-Flash 等条目价格同样缺失,无法得出可靠价差。
- 平台差价暂无云厂商托管报价,实际支出取决于自有集群的折旧与利用率,与 API 计价不可直接比较。
- 省钱量化格式本身用于压缩显存,单位硬件可跑更多副本,但摊薄成本的前提是精度损失可被业务接受。
同类模型对比
4 条| 模型 | 上下文 | 输入价 | 输出价 | 输入价差 | AA 综合 |
|---|---|---|---|---|---|
| MiniMax-M2.5-MXFP4 | — | — | — | 基准 | — |
| MiniMax-M3-MXFP4 | — | — | — | 基准 | — |
| MiniMax-M3-MXFP4-AttnFP8 | — | — | — | 基准 | — |
| Qwen3.8-Flash-Next-Quark-MXFP4 | — | — | — | 基准 | — |
取上下文相近(约 0.5~2 倍)的同类主流模型;同厂商、同家族优先;价格差为相对本模型的输入价
关于 Qwen3.8-2.4T-A95B-Quark-MXFP4 的常见问题
2 条Qwen3.8-2.4T-A95B-Quark-MXFP4 的 API 价格是多少?
当前资料未收录该模型的公开 API 价格:可能是未公开定价,或只提供自部署的开源权重。
Qwen3.8-2.4T-A95B-Quark-MXFP4 是开源模型吗?
Qwen3.8-2.4T-A95B-Quark-MXFP4 提供开源权重,可以自行下载部署,HuggingFace 下载量 9,853。本站展示的价格是各托管平台对 API 调用的报价,自部署不计入。
使用注意
- 口径能力未标注、跑分缺失、上下文与价格均未公开,任何性能判断都只能停留在定性层面。
- 边界纯文本模型,不覆盖图像、音频等模态输入;4 比特权重的精度边界需按自身业务数据实测。
资料说明
本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并, 冲突时取优先级高的来源。价格单位是美元 / 百万 tokens,为各平台对 API 调用的报价,不含自部署成本。 资料由公开来源整理,不代表 AiTest 已对该模型或其收录中转站做过真实性、稳定性或安全检测。
本页的模型介绍、架构、性能与性价比解读为 AI 综合公开信息整理,部分未经本站逐项核实;规格、价格与跑分以本页数据字段为准。
本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并,冲突时取优先级高的来源;价格单位为美元 / 百万 tokens。