做企业选型的人常卡在同一处:领导说用 DeepSeek 搭个知识库,可没人说得清它到底能扛多少文档、答得多准、留不留内网。这篇不吹能力,只给一套判断顺序——先分清楚哪些活该它干、哪些活它干不了,再拿你自己的文档做一次小样本试跑,最后把并发、显存和许可证逐项对一遍,试完就知道该不该往下走。
给企业做选型的人经常卡在同一个地方:老板一句话说用 DeepSeek 搭个知识库,可没人讲得清它到底能扛多少文档、答得多准、数据能不能留在内网。这篇不吹它有多强,只给一套可以照着走的判断顺序——先分清哪些活该它干、哪些活它干不了,再拿你自己的文档做一次小样本试跑,最后把并发、显存、许可证逐项对一遍。走完这几步,你大概就能判断该不该往下投入。
整篇文章的落脚点是「可复现」:每一步都要有动作、有验收标准、有不适用的前提。凡是涉及具体数字的地方(价格、吞吐、显存占用),都别记死数,一律去站内对应页面看当时的口径,因为这些东西变得比你想象的快。
先把边界划清:知识管理里哪些活它接得住
知识管理拆开看其实是四件事:找得到、答得对、追得到来源、控得住权限。DeepSeek 这类大模型只直接覆盖前两件的前半段——把检索回来的片段组织成人话讲出来。它不负责存文档,不负责定权限,也不负责判断某个答案该不该给某个人看。把这条线先画清楚,后面评估才不会跑偏。
| 能力项 | 接得住的程度 | 说明 |
|---|---|---|
| 口语化提问改写 | 高 | 把用户那句大白话变成能检索的关键词组合 |
| 跨段落归纳 | 高 | 多份材料合成一段可读答案,这是它的强项 |
| 按模板抽字段 | 中高 | 结构化输出可以,但字段边界要写死 |
| 逐字引用原文 | 低 | 容易改动字词,合同条款、法条编号别让它复述 |
| 精确算数 | 低 | 涉及金额、比例的运算交给代码或字段 |
| 权限判断 | 不涉及 | 该不该看,必须在检索层过滤 |
- 答案能容忍「大意对」的进模型,比如制度大意、流程顺序。
- 要求「一字不差」的走检索原文或结构化字段,模型只做定位不做复述。
- 知识库主体是表格数字、图纸、扫描件手写批注,且没做过 OCR 和结构化清洗——这种情况下换任何模型都救不回来,先解决数据问题。
- 需要实时计算或强时效数据的,模型顶多做入口,真值还是得接数据接口或规则引擎。
模型能力和知识库能力不是一回事,别混着评估
模型权重里装的是通用常识,不是你们公司的内部规定。文件没被切块、嵌入、存进向量库,问它「我们的报销上限是多少」,它只会给一个很像真的错答案。所以评估顺序应该是:先看检索这半条链路准不准,再看模型这半条把检索结果讲得顺不顺。检索召回不到,模型再强也是白搭;反过来,检索很准但模型重组能力差,那是另一类问题,修的方向完全不同。
- 第一步:只测检索拿十个你确定答案就在某份文件里的问题,关掉模型生成,只看命中的片段对不对得上,命中率记下来。
- 第二步:只测重组把正确答案的片段手动喂给模型,看它组织出来的回答有没有歪曲、有没有加戏,这一步测的是模型本身。
- 第三步:合起来测整条链路走一遍,对比前两步的分数。如果检索命中率高但最终答案不对,问题在模型或提示词;如果检索就没命中,回去查切块和嵌入。
- 第四步:定位改进点两段分开打分,才知道该换嵌入模型、调切块大小,还是该换生成模型,别一上来就换模型。
嵌入模型怎么挑可以看 嵌入模型(/embeddings),向量库选型看 向量数据库目录(/stacks/vector-dbs);这两块决定召回质量,和换不换生成模型是两个独立变量。把变量分开调,问题才收敛。
按文档类型对号:你的材料适不适合喂给它
不是所有企业文档都适合直接进知识库。文字连续、语义完整、答案能落到某一段的材料,模型处理起来最稳;图文混排、扫描件、复杂表格就得先做预处理,否则切出来的块是乱码,模型只能瞎猜。选型时先按文档类型过一遍,把不适合的先挑出来,别等上线了才发现答不准。
| 文档类型 | 适配程度 | 预处理要求 |
|---|---|---|
| 制度手册、产品说明 | 适合 | 基本不用,注意章节切分 |
| FAQ、培训材料 | 适合 | 按问答对切块效果更好 |
| 会议纪要 | 较适合 | 要先去掉口语冗余和隐私内容 |
| 扫描 PDF、图文说明书 | 需预处理 | 先做 OCR 和版面还原 |
| 带合并单元格的表格 | 需预处理 | 先转结构化字段再喂 |
| 聊天记录里的口头约定 | 不建议 | 时效和归属都难追,别进主库 |
一个通用做法:先拿三五十份最有代表性的文档跑一遍,人工标出「该被找到的答案」在哪,再看模型答对多少。这个自测比任何排行榜都贴近你的真实场景,因为你的文档长什么样、问法什么样,只有你自己知道。
答得对不对怎么验:一套能复现的抽查方法
准确率不能靠感觉,得有一套固定流程,换个人来跑也能得到差不多的结论。抽样要有结构:按部门、按文档类型、按问题难度各抽几条,别只挑自己熟的领域,那样分数会虚高。每条问题记三件事——检索有没有命中、答案里的事实对不对、有没有编出原文没有的内容。第三项最要命,在企业场景里编造比不回答伤害大得多。
- 定位来源要能点开原文,点不开的答案在企业场景基本不可用,出问题没法追责,也没法让人复核。
- 同一批问题换几种问法再问一次,如果换个说法答案就变了,说明检索或切块不稳,先修链路再谈模型。
- 把「答不上来」和「答错了」分开统计,前者是召回问题,后者多是生成问题,混在一起没法改。
- 术语和口径拿不准时,到 AI 术语词典(/ai-dict) 对一下,别把幻觉和拒答当成同一类失败。
- 每轮评估保留原始记录,下一轮换模型或调参时才能横比,别凭记忆说「好像变好了」。
并发和响应:人一多会不会卡住
估容量先估并发,不是先估模型大小。企业内部知识库的典型峰值就在上班后那一小时内——几十人同时问、每人两三句,这个量级和「全员全天挂着用」差很远。所以别按总人数估,按「同时在线且正在提问」的人数估,这才是真正压测的目标。
- 单次上下文长度
- 一次请求塞进去的检索片段越多,响应越慢,先把「要塞多少字」定下来
- 峰值并发
- 上班后一小时内同时提问的人数,不是员工总数
- 显存约束
- 并发上来后显存和吞吐互相挤,参数量和量化档位一起决定
- 余量系数
- 内部场景留一档,对外场景留更大一档,具体倍率按业务波动定
算显存和吞吐别靠拍脑袋,按你选的参数量和量化档位走一遍:到 部署测算(/models/deploy) 和 几张卡够用(/compute/sizing) 按当时口径算,卡型规格看 加速卡规格库(/compute/gpus)。如果你的知识库要对接外部客户、流量随时翻倍,就别按内部人数估,直接按峰值外再留一档余量,或者上按量调用的路子,把弹性交给上游。
走 API 还是本地跑:按数据和规模两条线分
这个决定别一上来就纠结,按两条线分开看。第一条线看数据:文档里有没有不能出内网的内容,有就必须本地或专有环境,没有就可以先用官方接口验证效果,跑通了再谈部署。第二条线看规模:只是几十人偶尔查,接口更省事;每天成千上万次调用、还要固定成本,才轮到自建。两条线各自有结论了,再合起来拍板。
| 判断维度 | 倾向接口 | 倾向本地/专有环境 |
|---|---|---|
| 数据敏感度 | 无敏感内容 | 有不可出网内容 |
| 调用规模 | 低频、波动大 | 高频、稳定且量大 |
| 团队运维 | 没人力管机器 | 有运维能力 |
| 验证阶段 | 先验效果最划算 | 已有明确合规要求 |
先用接口把效果验一遍,花小钱看清「这套知识库到底值不值得做」,比先买卡再发现答不准划算得多。接口的价格口径会变,别记数字,直接到 DeepSeek 官方价格与规格(/official-api/providers/deepseek) 看当时的值;租卡行情看 租卡价格指数(/compute/price-index),同样以页面当时数字为准。
许可证、合规和上线前必须过的那几关
权重能下载不等于能随便商用,许可证里对用途、署名、二次分发的限制要一条条读,别只看标题「开源」两个字就签字。数据这条线更容易出事:把内部文档喂给外部接口前,先确认合同和内部规定允不允许;本地部署也不是自动合规,日志、备份、权限同样要管。合规这块的判断口径可以对照 安全与合规术语对照(/ai-dict/category/safety),把名词先对齐再谈方案。
- 读许可证逐条看用途限制、署名要求、二次分发条款,判断你的使用方式是否被允许。
- 定数据边界列出哪些文档能出网、哪些不能,出一份清单给法务和业务方共同确认。
- 检索层做权限谁能看哪份文档,必须在检索阶段就过滤掉,别在提示词里写「不要泄露」,那不叫控制。
- 留回退方案模型或版本换代时先小范围并行跑,对不上再切回去,别一次性全量替换。
两周试点清单:从零到能拍板
前面这些判断标准,落到执行就是一次两周的小试点。第一周选三五十份代表文档,做好清洗和切块,把嵌入和向量库跑起来,先只验检索召回,不动模型。第二周接上模型,拿三十到五十道题做人工评估,记录命中率、事实准确率和编造次数;再把并发拉到你预估的峰值压一次,看响应和显存表现。
- 同时并行做两件非技术的事:找法务确认许可证和数据边界,找业务方确认谁来维护文档更新。
- 知识库烂掉多半是因为没人管更新,不是因为模型不行,维护责任人要写进结论里。
- 出结论时别写「效果好」,写清「哪类问题答得准、哪类答不准、峰值响应多少、月成本区间多少」。
- 成本数字去 价格追踪(/price-watch) 看当时的值,别用旧的截图当依据。
- 把试点的结论套进 模型选型方法论(/guides/model-selection-methodology) 的同一套口径,方便和其他方案横比。
一次能复现的小试点,比十份评测报告更能帮你拍板。下一步把你手上要评估的官方接口和中转站拉出来横比一遍,重点看数据留存策略、价格口径和可用性记录,别只看单次报价。→
常见问题
DeepSeek 能不能直接当企业知识库用,不用 RAG?
不行。模型权重里没有你们公司的内部资料,直接问只会得到看起来合理的错误答案。正确做法是把文档切块、建向量索引做检索,模型负责把检索到的片段组织成答案。跳过检索这一步,后面所有评估都没有意义。
答不准,是模型不行还是检索不行?怎么区分?
分开测。先只看检索命中的片段里有没有正确答案,没有就是切块或嵌入的问题;片段对但答案讲歪了,才是模型或提示词的问题。多数「答不准」最后查到的是切块太碎、表格没处理、权限过滤写错,跟换哪家模型关系不大。
文档里有敏感内容,还能用吗?
看内容能不能出内网。不能出就走本地或专有环境部署;能出也要先确认内部规定和客户合同允许,再选官方接口。另外提醒一句,本地部署不等于自动合规,日志、备份、访问权限这些照样要单独管。
要多少张卡、多少钱,怎么估?
先定三件事:一次检索要塞多少字进上下文、峰值同时几个人问、要不要跑在本地。这三个数定了,再按参数量和量化档位去部署测算页面算显存和吞吐。别先问价格,先问规模,价格是规模的结果。
多久能看出这套方案行不行?
两周够做一轮试点。第一周只验检索召回,第二周接模型做人工评估并压一次峰值。如果一周内连检索都调不准,问题在数据和链路,不在模型,这时候换模型是白花钱。