DeepSeek-V3-0324-NVFP4

DeepSeek-V3-0324-NVFP4 属于 DeepSeek-V3 系列的衍生发布：模型主体来自 DeepSeek-V3-0324，NVIDIA 负责把它转换成 NVFP4 四比特浮点格式并开源权重，许可证为 MIT，发布时间为 2025 年 5 月 3 日。它要解决的问题集中在部署侧：原始规模的权重对显存与带宽要求高，低精度格式可以显著压缩存储与传输开销，让自有 GPU 集群更容易承载推理。输入与输出模态均为纯文本，不含视觉或其他通道；官方价格未公开，本站也未接入任何提供该模型的服务平台，第三方跑分同样缺失。因此，它更像一个给工程团队使用的部署选项，而不是开箱即用的托管 API。选型时需要同时确认基座模型的能力边界、量化带来的精度变化，以及本地推理栈对 NVFP4 的支持程度。

选型建议需要自托管、且硬件与推理栈能支持 NVFP4 时，可用它压低部署成本；若需要现成 API、明确报价或可核对的跑分，则应另选有公开数据的托管模型。

• 在自有 NVIDIA 新架构集群上部署中文通用对话服务，压降单次推理的显存占用
• 搭建代码补全与文档摘要的内部工具，用低精度权重换取更高的并发承载
• 作为量化研究的对照基线，比较 NVFP4 与更高精度权重在同一批任务上的输出差异
• 为长文本知识库问答提供离线推理后端，按业务语料自行微调或外挂适配层
• 在数据不出内网的合规环境中本地化部署，避免把请求发往第三方接口

沿用 DeepSeek-V3 系列的混合专家（MoE）与多头潜在注意力（MLA）路线，NVIDIA 侧的主要改动是把权重与计算转成 NVFP4 低精度格式。具体量化配方与结构细节，公开资料较少。

• 结构保留基座模型的 MoE 稀疏激活骨架，NVIDIA 将权重转换为 NVFP4 四比特浮点格式，以适配自家的低精度推理栈。
• 能力纯文本输入输出，不具备视觉或多模态通道；上下文长度、工具调用等具体能力项在本站资料中未标注。
• 披露模型卡与量化细节的公开信息有限，权重以 MIT 许可证发布，商用与二次分发的限制较少。

开源权重

是

许可证

mit

本站未收录该模型的第三方跑分，能力判断只能依据基座模型路线与低精度量化的一般特性，不做数值层面的横评。

• 强项继承 DeepSeek-V3-0324 的通用文本能力，MoE 骨架在中文写作、代码理解与长文处理上较为均衡，适合做通用生成底座。
• 短板NVFP4 属于较激进的低精度方案，数学推理、长链逻辑等对数值敏感的任务可能出现精度损失，需自行做任务级回归验证。
• 适合硬件与推理栈已经对齐 NVIDIA 新架构、并以吞吐和显存效率为优先目标的自托管场景，取舍点在于省资源而非追极限精度。

官方未公布价格，本站也没有接入任何提供该模型的服务平台，因此无法给出可核对的输入输出单价与价差。

• 定位属于自托管权重而非按 token 计费的托管接口，成本主要体现在自有 GPU 的算力、电力与运维投入上。
• 横向对比同厂的 Nemotron 系列多款模型已给出公开的每百万 token 输入输出单价，本模型因无官方报价，价差无法计算。
• 平台差价接入平台数为零，暂时不存在不同服务商之间的报价差异可供比较，采购时缺少参照。
• 省钱低精度格式能压缩显存与带宽需求，在自有硬件上往往比全精度部署更省资源，但要计入量化适配与验证的人力成本。

取上下文相近（约 0.5~2 倍）的同类主流模型；同厂商、同家族优先；价格差为相对本模型的输入价

• 口径本站无第三方跑分、无官方价格、能力项未标注，任何关于效果与成本的结论都应以本地实测为准。
• 边界NVFP4 需要匹配的硬件与软件栈支持，环境不满足时无法直接推理；权重为 MIT 许可，基座模型的使用条款仍建议单独核对。

本页资料由多个公开来源交叉整理：按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并， 冲突时取优先级高的来源。价格单位是美元 / 百万 tokens，为各平台对 API 调用的报价，不含自部署成本。 资料由公开来源整理，不代表 AiTest 已对该模型或其收录中转站做过真实性、稳定性或安全检测。

本页的模型介绍、架构、性能与性价比解读为 AI 综合公开信息整理，部分未经本站逐项核实；规格、价格与跑分以本页数据字段为准。