Qwen3-32B-NVFP4

MODEL PROFILE模型资料

RedHatAI · 2025-06-27 发布 · 开源权重

无公开托管渠道

Qwen3-32B-NVFP4 是 RedHatAI 于 2025 年 6 月发布的 Qwen3 系列 32B 文本模型 NVFP4 量化版本，权重开源、采用 Apache-2.0 许可，面向需要在 NVIDIA 低精度推理栈上自托管部署、以显存占用和吞吐为首要约束的开发者和企业团队。

模型介绍

该模型属于通义千问 Qwen3 系列的 32B 稠密文本模型，由 RedHatAI 以 NVFP4 低精度格式重新打包发布，输入与输出均为文本。它的核心价值在于把 32B 级稠密模型压缩到更适合单机或单卡部署的显存预算内，让团队在私有化环境中运行通用文本理解、写作、摘要与抽取类任务。Apache-2.0 许可便于商用与二次修改，但官方未公开价格，目前也没有平台挂出可比报价；本站未收录该版本的公开跑分与能力标注，实际效果需要结合自有数据和推理框架自行评测，尤其要关注量化前后的精度差异。

选型建议需要以较低显存自托管 32B 级文本模型、且能接受量化精度取舍时选它；要求公开跑分背书、多模态或开箱即用 API 的场景不建议选。

开源权重文本模型32BNVFP4量化Apache-2.0RedHatAI本地部署

关键指标

输入模态文本

HF 下载量77,886

HF 点赞9

适用场景

部署私有化文档问答与会议纪要摘要服务
搭建内部知识库检索后的文本生成与改写助手
批量处理工单分类、合同要素抽取等文本任务
在自有 GPU 上对比 NVFP4 量化前后的效果与吞吐
为客服机器人提供本地化、可控成本的推理后端

暂无：上下文窗口、最大输出、知识截止、模型家族、输入价、输出价、缓存读价、缓存写价、推理、工具调用、结构化输出、附件、温度调节（上游未公开，本站不估算）。没有任何平台收录，也没有公开报价：可能是自部署权重或尚未开放调用；发布 502 天。

规格与能力

上面没列到的字段

该版本沿用 Qwen3-32B 的稠密 Transformer 主体，由 RedHatAI 以 NVFP4 低精度格式重新打包发布；公开材料对该版本的层数、注意力结构等细节披露有限。

结构基于 Qwen3-32B 稠密架构，属文本到文本模型，不含视觉或音频输入分支，适合纯文本推理链路。
量化权重以 NVFP4 4bit 浮点格式发布，目标是降低显存占用与带宽压力，收益依赖支持该格式的 NVIDIA 硬件与推理框架。
披露官方未公布上下文长度、训练数据与能力标注，本站也没有该版本的跑分；选型前应结合自有任务做量化前后对比。

开源权重: 是
许可证: apache-2.0
参数规模: 32B

能力资料未标注

同系列其他规格

型号	厂商	参数	上下文	输入价	输出价
Qwen3 32B	Alibaba	—	131.1K	$0.7/M	$2.8/M
qwen3-32b-cs	Poe	—	—	—	—
Qwen3-32B-NVFP4	NVIDIA	32B	—	—	—
Qwen3 32B	Alibaba	—	—	$0.24/M	$0.54/M
Qwen3 32B	Alibaba	—	—	$0.15/M	$0.6/M

性能表现

公开跑分缺失，只能从 32B 稠密规模与 NVFP4 量化两个维度做定性判断，实际表现需以自建评测为准。

强项32B 稠密参数在通用文本理解、写作与代码辅助上有较好基础，单机自托管门槛低于更大参数量的模型。
短板4bit 量化在数学推理、长链逻辑与数值敏感任务上可能掉点，且缺少公开跑分佐证，不宜直接按原模型能力预期。
适合显存与吞吐优先、任务以摘要、分类、抽取、客服问答为主的稳定在线服务，而非对精度极敏感的离线推理。

价格与性价比

结合各平台报价与同类对比

官方未公开价格，目前也没有平台侧报价，成本模型基本等同于自建推理的硬件与运维支出。

定位Apache-2.0 开源权重，无按 token 计费的官方价，投入集中在 GPU 显存、部署框架适配与运维人力。
横向对比同批 RedHatAI 量化版本如 Llama-3.3-70B、Mistral-Small-3.2-24B 均无公开价格，价差无法比较，只能按参数量与硬件需求估算。
平台差价目前没有平台挂出该版本的可比报价；若后续出现托管服务，需确认其量化格式与精度是否与本版本一致。
省钱任务量稳定且并发高时自托管更划算，可用 NVFP4 压低单卡显存占用；低频试用则先借同系列在线服务验证效果再投入硬件。

Qwen3-32B-NVFP4 的同类模型对比
模型	上下文	输入价	输出价	输入价差	AA 综合
Llama-3.1-8B-Instruct-NVFP4	—	—	—	基准	—
Llama-3.3-70B-Instruct-NVFP4	—	—	—	基准	—
Llama-4-Scout-17B-16E-Instruct	—	—	—	基准	—
Mistral-Small-3.2-24B-Instruct-2506-NVFP4	—	—	—	基准	—
Qwen3-8B-speculator.eagle3	—	—	—	基准	—

关于 Qwen3-32B-NVFP4 的常见问题

2 条

Qwen3-32B-NVFP4 的 API 价格是多少？

当前资料未收录该模型的公开 API 价格：可能是未公开定价，或只提供自部署的开源权重。

Qwen3-32B-NVFP4 是开源模型吗？

Qwen3-32B-NVFP4 提供开源权重，可以自行下载部署，许可证为 apache-2.0，HuggingFace 下载量 77,886。本站展示的价格是各托管平台对 API 调用的报价，自部署不计入。

使用注意

口径本站没有该模型的公开跑分与能力标注，所有性能描述均为定性判断，不构成效果承诺。
边界仅支持文本输入输出；NVFP4 需要相应硬件与推理栈支持，在旧卡或非 NVIDIA 环境可能无法直接运行，量化精度损失需自行评估。

资料说明

本页资料由多个公开来源交叉整理：按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并，冲突时取优先级高的来源。价格单位是美元 / 百万 tokens，为各平台对 API 调用的报价，不含自部署成本。资料由公开来源整理，不代表 AiTest 已对该模型或其收录中转站做过真实性、稳定性或安全检测。

本页的模型介绍、架构、性能与性价比解读为 AI 综合公开信息整理，部分未经本站逐项核实；规格、价格与跑分以本页数据字段为准。