DeepSeek V4 Pro遭蒸馏：9B小模型衍生版登顶Hugging Face榜首

最近，Hugging Face 模型趋势榜的第一名，被一个9B小模型拿下。这个名字里既有 DeepSeek，也带千问。

登顶的那个版本，出自社区开发者 xtools-at 之手。

模型卡里写着，它是在 Jackrong 的 DeepSeek-V4-Pro-Qwen3.5-9B 基础上做的，又用 Heretic v2.0.0.dev0 对模型的拒答行为做了一轮调整。

蒸馏这步是 Jackrong 做的。他先让 DeepSeek V4 Pro 产出大约 25 万条数学和理工科训练样本，再拿这批数据去微调阿里开源的那个模型。

Jackrong 的理科测试显示，蒸馏之后的千问答对的题更多了，而且每答对一题所耗的推理 Token 下降了 36.1%。

换到 xtools-at 的衍生版，拒答次数已经有了对照结果；理科准确率和推理开销，还得用同一套题再测一遍。

两次改造，留下两份成绩单：先训练的那版，测的是解题准确率和开销；登顶的那版，测的是拒答行为的变化。

xtools-at 放出的 9B 模型，用的是 Jackrong 那套蒸馏权重。权重从哪来？得从 DeepSeek V4 Pro 产出的一批解题样本讲起。

Jackrong 让总参数 1.6 万亿的 DeepSeek V4 Pro 在 Max Effect 模式下生成了约 25 万条数学和理工科样本。

这批样本里记下了入手点、问题怎么拆、每一步怎么推，还有最终答案是什么。

他就拿这批样本去训练阿里开源的那个模型，让这个 90 亿参数的小模型跟着 DeepSeek 的解题路子学。

之后 Jackrong 又用 做了一轮轻量强化学习。模型卡里写着，这两个阶段都只围绕数学和理工科推理，编程数据一概没用。

训练完的 9B 权重随后被 Jackrong 公开。xtools-at 拿到的就是这份已经做过理科专项训练的权重，再用 Heretic 去动模型的拒答行为。

Heretic 的 ARA 会比对模型面对不同类型提示时的内部激活，把跟拒答相关的信号找出来，然后改掉一部分模型层的权重，让这些信号对回答的影响变弱。

按 xtools-at 公布的配置，调整落在第 9 层到第 24 层。

结果分两头看：Jackrong 的评测记下了蒸馏后理科成绩和推理开销怎么变，xtools-at 的测试则记下了这轮权重调整把拒答次数压下去多少。

模型卡顶部，xtools-at 把衍生版的拒答对照摆了出来，同时给出 0.0422 的

同一组 100 条提示的测试里，Jackrong 蒸馏版一条不落全拒了，调整过的衍生版只拒了 3 条。

再往下翻，数学、推理效率和输出格式这几项，用的还是 Jackrong 对蒸馏版那套评测。

平均准确率录得 94.5%。

同表之中，DeepSeek V4 Pro 的参考成绩为 92.6%，Llama 3.3 70B Instruct 则是 94.84%。

随后 Jackrong 在相同设置下，让原版千问和蒸馏版各做 500 道数学题、500 道物理题、500 道化学题。

三科成绩都往上走。数学幅度最大，90.60% 变成 92.40%；物理、化学各自多了 0.4 和 0.6 个百分点。

数学同样是推理开销下降最明显的一科。

如果按整套题消耗的推理Token除以答对题数来算，蒸馏版在数学科目上的开销少了47.4%，物理少了30.8%，化学少了32.1%。

分科看这组数字，三门课省下的推理开销并不一样。

另有一个变化容易被跑分掩盖：模型更愿意按照要求把回答收住。

测试用的是同一套提示词，要求模型思考结束后只输出一个大写字母。

蒸馏版有97.2%的回答满足这一格式要求，原版千问为37.3%，同场参与对比的另一个数字是69.6%。

模型卡里还写到，Jackrong的蒸馏版在编程和工具调用上有小幅提升，并放出了一个用它做出来的可玩小游戏Star Skip。

不过这部分眼下还停留在初步观察和演示层面，模型卡并未给出专门的代码或Agent基准成绩。

若想在本地试试xtools-at的9B衍生版，原始版本是可选项。

社区开发者 Sakura721 已经把 xtools-at 的衍生版转成 Q4_K_M，即 4-bit 量化版，方便在 LM Studio 里使用。

如果所用的 下载并导入.gguf模型文件后，加载即可开始文字对话。

若要输入图片，还需下载同仓库的mmproj文件，它的作用是把图像转成模型能够处理的输入。

xtools-at 方面已公开衍生版的拒答测试，社区也提供了可在本地运行的量化权重。

下一步，用 Jackrong 测过的那套理科题再测一遍，才能判断这次权重调整后，蒸馏带来的准确率和推理效率还剩下多少。