Qwen3.8-2.4T-A95B-Quark-MXFP4

MODEL PROFILE模型资料

amd · 2026-08-11 发布 · 开源权重

无公开托管渠道 返回厂商

Qwen3.8 系列的纯文本开源权重模型,以 amd Quark 工具链的 MXFP4 低精度格式发布,面向需要自行部署、并希望压低显存占用的团队,而不是依赖现成 API 的调用方。

模型介绍

Qwen3.8-2.4T-A95B-Quark-MXFP4 属于 Qwen3.8 系列,是 amd 以 Quark 量化格式发布的开放权重版本,仅支持文本输入与文本输出。名称中的 2.4T-A95B 沿用总参数与激活参数的标注习惯,指向稀疏激活的大体量结构;Quark-MXFP4 则说明权重以 4 比特微缩放浮点格式分发,目标是降低显存占用与部署门槛。它要解决的核心问题在于把大体量模型放进有限的推理硬件,并不追求能力上限:官方价格未公开,第三方跑分缺失,也暂无云平台上架,实际可用性需要使用者自己在目标硬件上验证。

选型建议有能力自建推理、愿意自测精度并需要压缩显存的团队可以选它;要现成 API、跑分背书或多模态能力则暂不适用。

开源权重文本模型稀疏激活4比特量化AMD Quark私有部署

关键指标

输入模态文本
HF 下载量9,853
HF 点赞6

适用场景

  • 在自有加速卡集群上部署纯文本生成服务,验证 4 比特权重的显存收益
  • 为 Qwen3.8 系列做选型,对比量化版本与原始精度版本的效果差距
  • 接入支持 MXFP4 的推理框架,压测吞吐与单卡可承载的副本数
  • 作为离线文本处理流水线的候选基座模型,先做小流量灰度验证

暂无:上下文窗口、最大输出、知识截止、模型家族、许可证、参数规模、输入价、输出价、缓存读价、缓存写价、推理、工具调用、结构化输出、附件、温度调节(上游未公开,本站不估算)。 没有任何平台收录,也没有公开报价:可能是自部署权重或尚未开放调用;发布 93 天。

规格与能力

上面没列到的字段

公开资料对结构细节披露有限,只能依据命名方式与发布形态作出大致的定性判断。

  • 结构按命名惯例为稀疏激活的大体量模型,Quark-MXFP4 指权重以 4 比特微缩放浮点格式分发,运行时需配套的量化推理支持。
  • 能力输入输出均为纯文本,能力项未做标注,指令跟随与推理表现需以官方模型卡或自行评测为准。
  • 披露上下文长度、训练数据、许可条款等关键信息在现有数据中缺失,正式选型前应先核对官方说明。
开源权重
是
能力 资料未标注

同系列其他规格

型号厂商参数上下文输入价输出价
Qwen3.8 2.4T A95B Alibaba — 1.05M $2/M $6/M
Qwen3.8 2.4T A95B (NVFP4) RunInfra — 262.1K $2/M $6/M
Qwen3.8-2.4T-A95B Qwen — — — —
Qwen3.8-2.4T-A95B-NVFP4 NVIDIA — — — —

性能表现

缺少公开跑分,以下只是发布形态带来的定性判断,不构成精度结论。

  • 强项4 比特量化明显压低权重显存占用,同样数量的加速卡可承载更大体量模型,适合显存受限的自建推理环境。
  • 短板低精度格式存在精度损失风险,且强依赖推理框架对 MXFP4 的支持程度,生态适配不足时调优成本会上升。
  • 适合有硬件条件与评测能力、愿意用自测替代榜单背书的团队;需要开箱即用或多模态能力时并不合适。

价格与性价比

结合各平台报价与同类对比

官方价格未公开,可检索到的上架平台数为零,因此只能讨论成本结构,无法给出具体价格。

  • 定位以开放权重分发,开销主要落在自建推理的硬件、电力与运维,而非按 token 计费。
  • 横向对比同列表中的 GLM、MiniMax 与 Qwen3.8-Flash 等条目价格同样缺失,无法得出可靠价差。
  • 平台差价暂无云厂商托管报价,实际支出取决于自有集群的折旧与利用率,与 API 计价不可直接比较。
  • 省钱量化格式本身用于压缩显存,单位硬件可跑更多副本,但摊薄成本的前提是精度损失可被业务接受。

同类模型对比

4 条
Qwen3.8-2.4T-A95B-Quark-MXFP4 的同类模型对比
模型上下文输入价输出价输入价差AA 综合
MiniMax-M2.5-MXFP4 —— —基准—
MiniMax-M3-MXFP4 —— —基准—
MiniMax-M3-MXFP4-AttnFP8 —— —基准—
Qwen3.8-Flash-Next-Quark-MXFP4 —— —基准—

取上下文相近(约 0.5~2 倍)的同类主流模型;同厂商、同家族优先;价格差为相对本模型的输入价

关于 Qwen3.8-2.4T-A95B-Quark-MXFP4 的常见问题

2 条
Qwen3.8-2.4T-A95B-Quark-MXFP4 的 API 价格是多少?

当前资料未收录该模型的公开 API 价格:可能是未公开定价,或只提供自部署的开源权重。

Qwen3.8-2.4T-A95B-Quark-MXFP4 是开源模型吗?

Qwen3.8-2.4T-A95B-Quark-MXFP4 提供开源权重,可以自行下载部署,HuggingFace 下载量 9,853。本站展示的价格是各托管平台对 API 调用的报价,自部署不计入。

使用注意

  • 口径能力未标注、跑分缺失、上下文与价格均未公开,任何性能判断都只能停留在定性层面。
  • 边界纯文本模型,不覆盖图像、音频等模态输入;4 比特权重的精度边界需按自身业务数据实测。

资料说明

本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并, 冲突时取优先级高的来源。价格单位是美元 / 百万 tokens,为各平台对 API 调用的报价,不含自部署成本。 资料由公开来源整理,不代表 AiTest 已对该模型或其收录中转站做过真实性、稳定性或安全检测。

本页的模型介绍、架构、性能与性价比解读为 AI 综合公开信息整理,部分未经本站逐项核实;规格、价格与跑分以本页数据字段为准。

本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并,冲突时取优先级高的来源;价格单位为美元 / 百万 tokens。