Kimi-K2-Thinking-NVFP4
MODEL PROFILE模型资料NVIDIA · 2025-12-02 发布 · 开源权重
Kimi-K2-Thinking-NVFP4 是 NVIDIA 于 2025 年 12 月 2 日发布的开放权重文本模型,用 NVFP4 低精度格式打包 Kimi K2 Thinking,面向希望在自己的加速卡上跑推理型大模型的团队,不适合按 token 调用 API 的用户。
模型介绍
Kimi-K2-Thinking-NVFP4 属于 Kimi K2 系列的 Thinking 分支,由 NVIDIA 以 NVFP4 量化格式重新打包并开放权重,发布日期为 2025 年 12 月 2 日。它解决的问题很具体:推理型大模型体量大,常规精度下难以在单机或少量加速卡上落地,NVFP4 压缩权重降低了显存门槛,让团队能本地跑通带推理过程的文本生成。模型只处理文本输入与文本输出,不涉及图像、音频或多模态理解;许可证标为 other,使用前需要回到原始条款逐条确认,不能套用常见宽松开源许可证的预期。官方价格未公开,也没有平台接入,实际使用方式基本限定为下载权重自建推理服务。与直接调用托管 API 相比,这条路线把选型成本从按量付费转移到硬件与工程投入,适合有显卡资源、有评测能力、对数据出网有顾虑的团队;若只需要稳定接口和明确报价,托管模型仍是更省事的选择。
选型建议需要本地部署推理型文本模型、且已具备 NVFP4 硬件与自评测能力时值得评估;需要现成 API、明确报价或图文多模态能力时应另选。
关键指标
适用场景
- 在自有 GPU 服务器上部署推理型对话服务,处理需要多步推导的文本问答
- 为代码理解与生成流程接入本地模型,减少对外部接口的依赖与数据外发
- 构建可调用外部工具的任务智能体,利用 Thinking 风格输出中间推理步骤
- 在显存受限的环境中试验 NVFP4 量化权重,评估精度与吞吐之间的取舍
- 对敏感文本做内网私有化处理,把数据留在自有网络内完成推理
暂无:上下文窗口、最大输出、知识截止、模型家族、参数规模、输入价、输出价、缓存读价、缓存写价、推理、工具调用、结构化输出、附件、温度调节(上游未公开,本站不估算)。 没有任何平台收录,也没有公开报价:可能是自部署权重或尚未开放调用;发布 344 天。
规格与能力
上面没列到的字段公开资料对该版本的内部规格披露有限,可确认的是它沿用 Kimi K2 Thinking 的模型骨架,仅改变了权重的数值精度与发布方。
- 量化格式以 NVFP4 低精度浮点格式发布,属于面向支持该格式的新一代 NVIDIA 加速卡的压缩权重,目的是降低显存占用。
- 模型骨架沿用原版混合专家(MoE)路线,名称中的 Thinking 指向带中间推理过程的输出风格,适合多步推导类任务。
- 披露程度参数规模、激活量、训练数据与对齐细节均未公布,许可证标为 other,分发与商用前需逐条核对原始条款。
- 开源权重
- 是
- 许可证
- other
同系列其他规格
| 型号 | 厂商 | 参数 | 上下文 | 输入价 | 输出价 |
|---|---|---|---|---|---|
| Kimi K2 Thinking | Moonshot AI | — | 262.1K | $0.4/M | $2.5/M |
| Kimi K2 Instruct | NanoGPT | — | 256K | $0.4/M | $1.8/M |
| Kimi K2 Instruct 0905 | Moonshot AI | — | 262.1K | $0.5/M | $2/M |
| Kimi K2 Thinking (Amazon Bedrock) | Eden AI | — | 256K | $0.6/M | $2.5/M |
| Kimi K2 Instruct (Deep Infra) | Eden AI | — | 131.1K | $0.5/M | $2/M |
| Kimi K2 Instruct 0905 | Kilo Gateway | — | 262.1K | $0.6/M | $2.5/M |
| Kimi K2 Turbo Preview | Abacus | — | 256K | $0.15/M | $8/M |
| Kimi-K2-Base | Moonshot | — | — | — | — |
性能表现
缺少本站收录的公开跑分,性能只能做定性判断;量化带来的精度取舍需要在自己的任务上实测。
- 强项Thinking 定位使其在需要多步推理、代码理解与工具调用的文本任务上更有针对性,NVFP4 权重也让完整模型更易装进有限显存。
- 短板4 位浮点量化在长链推理和数值敏感任务上通常存在精度损失,且没有任何公开跑分可供横向参照,效果不确定性较高。
- 适合已有支持 NVFP4 的 NVIDIA 加速卡、愿意自行搭建推理栈并承担评测工作的团队,而不是追求开箱即用的调用方。
价格与性价比
结合各平台报价与同类对比官方价格未公开,本站也没有可用报价,因此只能讨论成本结构与对比方法,无法给出具体单价。
- 定价状态官方未公布输入输出价格,无法换算每百万 token 成本,任何价格判断都缺乏依据。
- 横向对比同为 NVIDIA 发布的 Nemotron 系列有明确标价和公开评分,但因本模型缺少输入价,价差无法计算,不能直接判断贵贱。
- 平台差价目前没有云平台接入该权重,不存在多家报价可比,成本主要落在自有显卡采购、电费与运维人力上。
- 省钱思路开源权重把按量付费转成一次性硬件投入,请求量稳定且利用率高时边际成本更低,但需先算清显存占用与峰值负载。
同类模型对比
5 条| 模型 | 上下文 | 输入价 | 输出价 | 输入价差 | AA 综合 |
|---|---|---|---|---|---|
| Nemotron 3 Ultra 550B A55B | 256K | $0.625/M | $3.125/M | 基准 | 11.8 |
| NVIDIA Nemotron 3 Nano 4B | — | — | — | 基准 | 1.8 |
| NVIDIA Nemotron 3 Nano 30B A3B | 262.1K | $0.05/M | $0.2/M | 基准 | — |
| Nemotron 3.5 Lightning 30B A3B | 262.1K | 免费 | 免费 | 基准 | — |
| Nemotron 3 Nano Omni | 256K | 免费 | 免费 | 基准 | — |
取上下文相近(约 0.5~2 倍)的同类主流模型;同厂商、同家族优先;价格差为相对本模型的输入价
关于 Kimi-K2-Thinking-NVFP4 的常见问题
2 条Kimi-K2-Thinking-NVFP4 的 API 价格是多少?
当前资料未收录该模型的公开 API 价格:可能是未公开定价,或只提供自部署的开源权重。
Kimi-K2-Thinking-NVFP4 是开源模型吗?
Kimi-K2-Thinking-NVFP4 提供开源权重,可以自行下载部署,许可证为 other,HuggingFace 下载量 250,003。本站展示的价格是各托管平台对 API 调用的报价,自部署不计入。
使用注意
- 口径以上判断仅基于本站事实字段与公开认知,缺少跑分、参数量与价格支撑,不构成任何性能或成本承诺。
- 边界仅支持文本输入与文本输出,不含图像与音频;许可证为 other,商用与再分发前必须确认条款,且低精度权重的精度损失需自行验证。
资料说明
本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并, 冲突时取优先级高的来源。价格单位是美元 / 百万 tokens,为各平台对 API 调用的报价,不含自部署成本。 资料由公开来源整理,不代表 AiTest 已对该模型或其收录中转站做过真实性、稳定性或安全检测。
本页的模型介绍、架构、性能与性价比解读为 AI 综合公开信息整理,部分未经本站逐项核实;规格、价格与跑分以本页数据字段为准。
本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并,冲突时取优先级高的来源;价格单位为美元 / 百万 tokens。