Qwen3-8B-NVFP4

Qwen3-8B-NVFP4 属于 Qwen3 系列的量化再发布版本，由 NVIDIA 制作并开源，采用 apache-2.0 许可证，参数规模 8B，只支持文本输入与文本输出。它要解决的问题主要是部署侧成本：原始 8B 模型在显存有限的设备上推理开销不小，改用 NVFP4 四位浮点格式存放权重后，可在支持该精度的 NVIDIA 硬件上以更低的显存与更高的并行度运行。模型本身不是新训练的架构，能力面延续 Qwen3-8B 的通用文本生成定位，适合对话、摘要、改写、信息抽取等任务。站内价格未公开，也没有第三方跑分记录，能力项未做标注，因此选型时更宜把它看作一份「便于本地落地的权重包」，而非有明确榜单背书的成品服务。

选型建议需要 apache-2.0 开源权重、并打算在 NVIDIA 硬件上做低精度本地部署时可以选它；若要求公开跑分背书、明确报价或更强推理能力，则应另选更大或已有成熟服务口径的模型。

• 在支持 NVFP4 的 NVIDIA 显卡上本地部署通用文本对话服务
• 为内部知识库搭建摘要与改写流水线，同时控制单卡显存占用
• 作为低精度量化推理的基线，验证 FP4 格式在实际业务中的效果
• 在离线或内网环境中承担分类、抽取、格式化输出等批处理任务

以 Qwen3-8B 为基础、由 NVIDIA 以 NVFP4 四位浮点格式封装的权重发布，架构沿用原模型，量化是主要变化点。

• 结构沿用 Qwen3-8B 的稠密 Transformer 主干，总参数 8B，权重以 NVFP4 精度存放，属于量化再发布，并非新训练的模型架构。
• 能力保持纯文本输入输出，覆盖对话、摘要、改写、抽取等通用文本任务；站内未标注能力项，不做额外能力背书。
• 披露官方未公开训练数据构成、上下文长度等细项，站内也无跑分记录，实际效果需按自有任务实测确认。

开源权重

是

许可证

apache-2.0

参数规模

8B

站内没有该模型的第三方跑分，以下仅为基于参数规模与量化格式的定性判断，不作为选型硬指标。

• 强项8B 规模在单卡与消费级显卡上较易容纳，NVFP4 格式在支持该精度的 NVIDIA 硬件上有利于降低显存占用、提升并发吞吐。
• 短板公开资料较少，缺少跑分与横向基准；8B 量级在复杂推理、长链路多步任务上通常弱于更大参数模型。
• 适合适合显存预算紧、任务以通用文本处理为主的本地推理；对强推理或需要跑分背书的场景，建议先行对比更大模型。

官方价格未公开，站内也暂无平台提供该模型的调用渠道，现阶段无法给出可核算的报价与价差。

• 定位开源权重加 apache-2.0 许可，成本主要落在自建推理的硬件采购与运维上，而非按 token 计费的 API 账单。
• 横向对比同厂 Nemotron 系列有公开 API 报价（输入约 $0.05–$0.625/M 区间），但架构与定位不同，不能与本模型直接换算价差。
• 平台差价站内收录平台数为 0，既无多渠道比价空间，也缺少本模型输入价作为基准，价差一栏因此为空。
• 省钱调用量小时租用现成 API 更划算；调用量大且已有支持 NVFP4 的显卡时，自建才能摊薄硬件投入。

取上下文相近（约 0.5~2 倍）的同类主流模型；同厂商、同家族优先；价格差为相对本模型的输入价

• 口径站内未收录第三方跑分，能力项也未标注，任何性能描述都只能停留在定性层面，不能当作测评结论使用。
• 边界纯文本输入输出、8B 规模；NVFP4 依赖运行时与硬件支持，在不支持该精度的设备上需回退或另行转换权重。

本页资料由多个公开来源交叉整理：按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并， 冲突时取优先级高的来源。价格单位是美元 / 百万 tokens，为各平台对 API 调用的报价，不含自部署成本。 资料由公开来源整理，不代表 AiTest 已对该模型或其收录中转站做过真实性、稳定性或安全检测。

本页的模型介绍、架构、性能与性价比解读为 AI 综合公开信息整理，部分未经本站逐项核实；规格、价格与跑分以本页数据字段为准。