想在自己机器或公司内网跑 DeepSeek,最容易卡在「到底要花多少钱」这一步:有人说买张卡就行,有人说电费和运维才是大头。这篇不讲口号,只给一套拆账方法——先把收费项列全,再按自己的场景勾选,最后给出硬件、软件、运维三条线的判断标准和落地步骤。
想在自己机器或公司内网跑 DeepSeek,最容易卡在「到底要花多少钱」这一步。有人告诉你买张卡就行,也有人说电费和运维才是真正的大头,两边都不算错,差别在于他们默认的部署方式根本不是一个东西。
这篇不喊口号,只给一套拆账方法:先把收费项列全,再按自己的场景勾选,最后落到硬件、软件、运维三条线上的判断标准和执行顺序。凡是涉及具体数字的地方,都建议你到站内对应页面看当时的口径,别拿别人的报价单当自己的预算。
先把账拆开:本地化部署到底有哪些收费项
本地化部署的费用不是一个数字,而是一组数字。把成本分成四块看最不容易漏:一次性硬件、持续电费与机房、软件与授权、人力运维。漏掉任何一块,算出来的预算都会偏低,尤其是后两块,往往是真正拖时间的地方。
- 一次性硬件
- 推理卡、整机、存储、网络设备,买完就沉没,需求变了不好退
- 持续电费与机房
- 按功率和运行时长估算,还要算空调、机位、带宽等隐性支出
- 软件与授权
- 厂商私有化交付版本会叠加授权费与升级服务费,自行下载开源权重则基本没有这块
- 人力运维
- 部署、调优、监控、故障处理、值班,通常按人天折算,最容易被忽略
还要区分两条技术路线。第一条是拿开源权重自己搭,费用集中在硬件和人力;第二条是走厂商私有化交付,多出授权与服务费,但省了一部分自建工作。两条路的收费口径完全不同,报价之前先确认自己走的是哪条,别把两种模式的价格混在一起比。
动手买卡之前:先确定你的规格前提
显存需求由四个变量共同决定:模型规模、量化方式、并发路数、上下文长度。单独看任何一个都不准,所以别先看中某张卡再倒推能跑什么,而是先写下这四个变量的目标值,再去反推配置。
- 先定目标规格把模型规模、量化方式、并发路数、上下文长度四项写成一行字,作为后续所有估算的输入,改一项就重算一次。
- 单机单并发先跑通用最小可用配置启动推理服务,发一次完整请求,确认效果和速度能接受。跑不通就说明规格前提有问题,先别扩。
- 按峰值并发加余量把线上预期的峰值并发乘上合理余量再估显存,别按平均值配,否则一到高峰就排队。
- 最后才谈扩展单机验证通过、峰值也估清楚,再讨论多机或集群,顺序反过来容易买过量。
这套估算有明确的适用边界:如果你要的是长上下文、大批量离线处理,或者面向多人同时在线的服务,单卡估算会严重偏低,这时候需要按吞吐和队列长度重新建模,最好先做一次小规模压测再下结论。
买卡、租卡还是继续用 API:三条路的取舍标准
这三条路没有绝对优劣,只有场景匹配度。判断时看五个维度:前期现金投入、设备闲置率、数据合规要求、迭代速度、故障兜底能力。把五项列成表,逐条打分,比凭感觉选靠谱得多。
| 对照维度 | 自购硬件 | 租用算力 | 继续走 API |
|---|---|---|---|
| 前期现金投入 | 一次性支出大 | 按需付费压力小 | 基本为零 |
| 闲置率风险 | 需求下降就闲置 | 随开随停 | 无闲置概念 |
| 数据合规 | 可完全内网 | 取决于租用方 | 数据出内网 |
| 迭代速度 | 换型号周期长 | 换配置较快 | 跟随服务方 |
| 故障兜底 | 自己负责 | 部分可转移 | 由服务方承担 |
- 短期验证或需求波动大,优先租,别为了跑通一次就买卡
- 数据明确不能出内网、且能长期稳定跑,才值得考虑自购
- 对响应稳定性要求高又有敏感数据,常见做法是混合:敏感任务本地跑,普通任务走 API
- 预算有限但必须本地化,可以先租用核算真实利用率,再决定是否转为自购
- 任何方案都先确认退路:能不能降配、能不能停租、合同里有没有扩展条款
对多数小团队来说,混合方案其实最现实。一家五六个技术人员的团队,通常只有少量涉及内部资料的请求需要本地处理,其余日常问答完全可以用 API 承担,硬把全部负载搬进内网,反而把闲置成本和运维压力揽到自己身上。
落地步骤清单:从选型到跑通的最短路径
有了判断标准,接下来按顺序走,别并行开工。每一步都要有可验证的产出,验证不过就停在原地改前提,不要靠加硬件去掩盖选型问题。
- 定目标明确要的是离线推理、私有知识库问答,还是微调训练。三种目标对显存、存储和配套组件的要求差好几倍,先写下来再选型。
- 跑通一次完整请求用最小配置启动服务,走完一次从输入到输出的完整链路,记录响应表现。能跑通再谈扩容。
- 补配套组件算上存储、向量库、日志监控、备份方案和值班人力,这些是持续成本,经常在预算表里缺席。
- 跑一段时间再复盘运营一个周期后,按实际利用率和并发峰值回看预算,利用率明显偏低就考虑降配或转租。
顺序上最容易犯的错是先买硬件再想目标。硬件一旦落地,选型就被锁死,后面发现目标不对,只能硬着头皮加钱。反过来先定目标再选配置,改起来成本低得多。
签约或下单前的复核清单
最后一步别急着签字。把单价、额度、授权范围、维保期限逐条问清并书面确认,口头报价在后续对账时基本没有约束力。涉及具体数值的,一律到站内页面看当时的数字,别用旧截图或聊天记录当依据。
- 收费项是否列全:硬件、电费、授权、运维是否都有归属,有没有藏在细则里的附加项
- 授权范围写清楚:能跑哪些模型、能装几台机器、是否允许内部二次分发
- 维保与响应时间写进合同:出故障谁处理、多久响应、备件怎么算
- 扩展与降配条款:需求变化时能不能加机器、能不能减配或停租
- 付款节奏与验收标准:分期节点对应什么可验证的交付物
本地化部署的成本不是一个报价数字,而是一张按你的场景勾选出来的清单。下一步把你关心的模型规格、部署方式和价格口径放到同一张表里对照,再决定买、租还是继续用 API,站内的价格追踪与部署相关内容可以帮你核对当时的数字。→
常见问题
只在自己电脑上跑,是不是就没什么费用了?
不是零成本。硬件是一次性支出,但电费、散热、机器折旧和你的调试时间都是成本。如果只是偶尔试效果,先按最小配置跑通再决定要不要加投入,别一上来就买高配。
本地部署一定比调 API 便宜吗?
取决于用量和稳定性要求。用量小、需求波动大时,API 通常更省;数据不能出内网、长期高负载稳定跑,本地才可能摊薄成本。判断前先估清峰值并发和月用量,再和官方价格页对照。
预算有限,第一步该花在哪?
先花在验证上,而不是买硬件。用最低配置跑通推理和一次真实业务请求,确认效果达标,再按并发余量做加法。这样即使后面发现不合适,损失也可控。