Kimi-K2-Thinking-NVFP4

MODEL PROFILE模型资料

NVIDIA · 2025-12-02 发布 · 开源权重

无公开托管渠道 返回厂商

Kimi-K2-Thinking-NVFP4 是 NVIDIA 于 2025 年 12 月 2 日发布的开放权重文本模型,用 NVFP4 低精度格式打包 Kimi K2 Thinking,面向希望在自己的加速卡上跑推理型大模型的团队,不适合按 token 调用 API 的用户。

模型介绍

Kimi-K2-Thinking-NVFP4 属于 Kimi K2 系列的 Thinking 分支,由 NVIDIA 以 NVFP4 量化格式重新打包并开放权重,发布日期为 2025 年 12 月 2 日。它解决的问题很具体:推理型大模型体量大,常规精度下难以在单机或少量加速卡上落地,NVFP4 压缩权重降低了显存门槛,让团队能本地跑通带推理过程的文本生成。模型只处理文本输入与文本输出,不涉及图像、音频或多模态理解;许可证标为 other,使用前需要回到原始条款逐条确认,不能套用常见宽松开源许可证的预期。官方价格未公开,也没有平台接入,实际使用方式基本限定为下载权重自建推理服务。与直接调用托管 API 相比,这条路线把选型成本从按量付费转移到硬件与工程投入,适合有显卡资源、有评测能力、对数据出网有顾虑的团队;若只需要稳定接口和明确报价,托管模型仍是更省事的选择。

选型建议需要本地部署推理型文本模型、且已具备 NVFP4 硬件与自评测能力时值得评估;需要现成 API、明确报价或图文多模态能力时应另选。

开源权重NVFP4 量化文本推理Kimi K2私有化部署NVIDIA 发布

关键指标

输入模态文本
HF 下载量250,003
HF 点赞41

适用场景

  • 在自有 GPU 服务器上部署推理型对话服务,处理需要多步推导的文本问答
  • 为代码理解与生成流程接入本地模型,减少对外部接口的依赖与数据外发
  • 构建可调用外部工具的任务智能体,利用 Thinking 风格输出中间推理步骤
  • 在显存受限的环境中试验 NVFP4 量化权重,评估精度与吞吐之间的取舍
  • 对敏感文本做内网私有化处理,把数据留在自有网络内完成推理

暂无:上下文窗口、最大输出、知识截止、模型家族、参数规模、输入价、输出价、缓存读价、缓存写价、推理、工具调用、结构化输出、附件、温度调节(上游未公开,本站不估算)。 没有任何平台收录,也没有公开报价:可能是自部署权重或尚未开放调用;发布 344 天。

规格与能力

上面没列到的字段

公开资料对该版本的内部规格披露有限,可确认的是它沿用 Kimi K2 Thinking 的模型骨架,仅改变了权重的数值精度与发布方。

  • 量化格式以 NVFP4 低精度浮点格式发布,属于面向支持该格式的新一代 NVIDIA 加速卡的压缩权重,目的是降低显存占用。
  • 模型骨架沿用原版混合专家(MoE)路线,名称中的 Thinking 指向带中间推理过程的输出风格,适合多步推导类任务。
  • 披露程度参数规模、激活量、训练数据与对齐细节均未公布,许可证标为 other,分发与商用前需逐条核对原始条款。
开源权重
是
许可证
other
能力 资料未标注

同系列其他规格

型号厂商参数上下文输入价输出价
Kimi K2 Thinking Moonshot AI — 262.1K $0.4/M $2.5/M
Kimi K2 Instruct NanoGPT — 256K $0.4/M $1.8/M
Kimi K2 Instruct 0905 Moonshot AI — 262.1K $0.5/M $2/M
Kimi K2 Thinking (Amazon Bedrock) Eden AI — 256K $0.6/M $2.5/M
Kimi K2 Instruct (Deep Infra) Eden AI — 131.1K $0.5/M $2/M
Kimi K2 Instruct 0905 Kilo Gateway — 262.1K $0.6/M $2.5/M
Kimi K2 Turbo Preview Abacus — 256K $0.15/M $8/M
Kimi-K2-Base Moonshot — — — —

性能表现

缺少本站收录的公开跑分,性能只能做定性判断;量化带来的精度取舍需要在自己的任务上实测。

  • 强项Thinking 定位使其在需要多步推理、代码理解与工具调用的文本任务上更有针对性,NVFP4 权重也让完整模型更易装进有限显存。
  • 短板4 位浮点量化在长链推理和数值敏感任务上通常存在精度损失,且没有任何公开跑分可供横向参照,效果不确定性较高。
  • 适合已有支持 NVFP4 的 NVIDIA 加速卡、愿意自行搭建推理栈并承担评测工作的团队,而不是追求开箱即用的调用方。

价格与性价比

结合各平台报价与同类对比

官方价格未公开,本站也没有可用报价,因此只能讨论成本结构与对比方法,无法给出具体单价。

  • 定价状态官方未公布输入输出价格,无法换算每百万 token 成本,任何价格判断都缺乏依据。
  • 横向对比同为 NVIDIA 发布的 Nemotron 系列有明确标价和公开评分,但因本模型缺少输入价,价差无法计算,不能直接判断贵贱。
  • 平台差价目前没有云平台接入该权重,不存在多家报价可比,成本主要落在自有显卡采购、电费与运维人力上。
  • 省钱思路开源权重把按量付费转成一次性硬件投入,请求量稳定且利用率高时边际成本更低,但需先算清显存占用与峰值负载。

同类模型对比

5 条
Kimi-K2-Thinking-NVFP4 的同类模型对比
模型上下文输入价输出价输入价差AA 综合
Nemotron 3 Ultra 550B A55B 256K$0.625/M $3.125/M基准11.8
NVIDIA Nemotron 3 Nano 4B —— —基准1.8
NVIDIA Nemotron 3 Nano 30B A3B 262.1K$0.05/M $0.2/M基准—
Nemotron 3.5 Lightning 30B A3B 262.1K免费 免费基准—
Nemotron 3 Nano Omni 256K免费 免费基准—

取上下文相近(约 0.5~2 倍)的同类主流模型;同厂商、同家族优先;价格差为相对本模型的输入价

关于 Kimi-K2-Thinking-NVFP4 的常见问题

2 条
Kimi-K2-Thinking-NVFP4 的 API 价格是多少?

当前资料未收录该模型的公开 API 价格:可能是未公开定价,或只提供自部署的开源权重。

Kimi-K2-Thinking-NVFP4 是开源模型吗?

Kimi-K2-Thinking-NVFP4 提供开源权重,可以自行下载部署,许可证为 other,HuggingFace 下载量 250,003。本站展示的价格是各托管平台对 API 调用的报价,自部署不计入。

使用注意

  • 口径以上判断仅基于本站事实字段与公开认知,缺少跑分、参数量与价格支撑,不构成任何性能或成本承诺。
  • 边界仅支持文本输入与文本输出,不含图像与音频;许可证为 other,商用与再分发前必须确认条款,且低精度权重的精度损失需自行验证。

资料说明

本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并, 冲突时取优先级高的来源。价格单位是美元 / 百万 tokens,为各平台对 API 调用的报价,不含自部署成本。 资料由公开来源整理,不代表 AiTest 已对该模型或其收录中转站做过真实性、稳定性或安全检测。

本页的模型介绍、架构、性能与性价比解读为 AI 综合公开信息整理,部分未经本站逐项核实;规格、价格与跑分以本页数据字段为准。

本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并,冲突时取优先级高的来源;价格单位为美元 / 百万 tokens。