deepseek本地部署除去硬件要多少钱

模型与算力

把本地跑 DeepSeek 除硬件外一年要花的钱拆成可核对的科目,给预算有限的企业一套逐年估算与省钱顺序。

很多团队算本地部署的账,只算了显卡和服务器,结果上线半年被许可证、运维人力、电力带宽、版本迁移这些「软成本」追着补预算。这篇不讲该买什么卡,只讲硬件以外的钱花在哪、怎么按自己的规模估、哪些科目能砍哪些砍不了,最后给一份可以照着走的年度预算清单和核对路径。

很多团队立项时把本地跑 DeepSeek 的账算成「显卡加服务器」,预算单上就两行。结果上线半年,许可证续期、运维值班、电费带宽、版本迁移、合规留档一项项冒出来,追着补预算。这篇不讲该买什么卡、买几张卡,只把硬件以外的开销拆成能核对的科目,给一套按自己规模估年度账的办法。

先说清前提:任何「一年大概多少钱」的说法都必须带场景。是内部自用、对内多部门共用,还是对外提供服务,这三件事会让总额差出好几倍。模型规模、并发量、知识库大小同理。所以下面给的是一套填写框架和判断标准,具体单价、当前计费口径,请到站内对应页面核对当时的数字。

先分清:硬件之外到底有哪些账单

把年度开销拆成四类来记,比混在一张表里清楚得多。第一类是一次性软性投入,比如部署实施、与现有系统集成开发。第二类是周期性固定支出,比如电力、带宽、机房或托管位、监控与备份。第三类是变动支出,比如人力工时、厂商支持、模型换代带来的重测。第四类是隐性支出,比如合规评估、安全审计、员工培训。这四类的发生节奏不一样,混在一起最容易漏。

科目类别典型内容发生节奏容易漏的原因
一次性软性投入部署实施、系统集成、培训项目期一次被当成项目内成本不记入年账
周期性固定支出电力、带宽、机位、监控备份按月或按年散落在不同部门账单里
变动支出人力工时、外部支持、升级重测随用量波动没有工时记录,靠感觉拍
隐性支出合规评估、安全审计、留档按事件触发不出事就不被想起

还有个提醒:模型规模、并发量、是否对外提供服务,这三件事会成倍影响总额。所以任何报价式的说法,都要带上这三个前提才有意义。下面每一节都会标出「什么情况下这一项不适用」。

许可证与权重:开源不等于零成本

开源指的是权重可获取,不等于商业使用零约束。第一种情况是权重自带许可证,要分清是可商用、需署名,还是有调用量或用途限制,这决定你要不要额外付费、要不要改架构。第二种情况是走厂商托管版或带商业支持的发行版,通常按年或按节点收支持费,而不是按 token 计,签约前要问清支持范围、响应时限、是否包含版本升级。

许可证类型
决定能不能商用、要不要署名、有没有调用量或用途限制
商业支持合同
按年或按节点计费,要看支持范围和响应时限,不看 token 量
用途留档
内部自用也要写清用途说明,避免后续审计时说不清

不适用的情况:纯内部研发、不对外提供服务的自用场景,授权负担和合规成本通常低很多,但仍要留档说明用途,别默认「不对外就没事」。反过来,一旦把服务开放给客户或第三方,授权和合规这两块的复杂度会明显上升,预算要单独留一档。

人力与运维工时:最容易被低估的一块

人力按角色拆,比按「运维一个人」笼统估要准。部署与调优是一次性的;日常运维与值班是周期性的;应用侧对接和提示词维护是周期性的;故障排查是不确定的。四类里前三类能估,第四类只能留缓冲。

  1. 记两周真实工时让参与的人各自记两周实际投入,而不是回忆上周干了啥,粒度到半天即可。
  2. 折算人力单价用团队实际人力成本折算,别用外部报价;小团队一人兼多职时,成本其实是从别的项目挪过来的机会成本。
  3. 留故障缓冲按前三类工时总和留一个缓冲比例,具体比例按你们历史故障频率定。
  4. 按季度复核上线后每季度把实际工时和估算对一次,偏差大的科目下季度调。

什么情况下不适用:如果团队本来就有成熟的容器与运维体系,边际人力会低不少;反过来从零起步的第一年,人力占比会明显偏高,别拿别人第二年稳定期的数字来套自己第一年。

硬件之外的固定支出:电、网、位、备

电力按设备实际功耗和当地电价折算,注意要算上散热和冗余带来的额外系数,别只用铭牌功率。具体单价和折算口径,到站内电力相关页面核对。机位或托管费、专线带宽、对象存储与备份空间,这些按月发生,最容易散落在不同部门的账单里漏掉。

  • 电力:设备功耗乘散热与冗余系数,再乘当地电价,注意季节性波动
  • 机位或托管:按月或按年,注意是否含机柜、是否含基础运维
  • 带宽:专线或按流量,内网调用多的话这块可能比想象的高
  • 存储与备份:对象存储、快照、异地备份,按容量和保留周期算
  • 监控与日志:商业订阅或自建,自建也要算机器和人力,单列一行别混进杂项

建议把这几项单列成表里独立的一行,尤其是监控和备份,别写成「杂项」了事。混进杂项的科目,第二年做预算时基本会被忘掉,然后在下一次扩容时一次性爆出来。

版本换代与重测:每次升级都是一笔小开销

开源权重更新频繁,每次换版本都要走一遍加载验证、效果回归、接口兼容性检查。这三件事都要人力和时间,单次看起来不多,一年累积起来是笔实账。把升级频率本身当成一个预算变量,比事到临头再临时抽人要好。

升级动作涉及角色能不能提前摊
权重加载验证运维可以,提前排窗口
效果回归测试算法或产品部分可以,用例先备好
接口兼容检查开发可以,提前对齐协议
回退与灰度演练运维加开发可以,但第一次必须实做

建立回退与灰度流程能省掉一部分返工成本,但省不掉第一次适配的成本。不适用的情况:如果业务对模型能力不敏感、只做简单文本处理,可以拉长升级周期,只在安全补丁发布时跟版,把钱省下来投到更缺人的环节。

外部支持与系统集成要不要买

判断标准很简单:内部有没有人能兜住三类故障——推理框架问题、并发调优问题、显存相关问题。三类都能兜,外部支持可以先不买;兜不住其中任何一类,买支持或找服务商通常比临时救火便宜。别按「感觉我们技术还行」来定,按故障类型逐个过。

集成成本集中在和现有系统对接:知识库、权限、审计日志、前端入口。这部分常常比模型本身贵,因为涉及的是业务系统而不是模型。提醒把「一次性集成」和「后续维护」分开记,前者是项目支出,后者才是每年都要发生的账,别把前者当成后者,也别把后者漏掉。

  • 先列故障清单,按能不能内部兜住分类,再决定买不买支持
  • 集成范围先画边界,哪些系统必须对接、哪些可以二期
  • 把一次性集成和维护成本分成两行记,别合并
  • 支持合同要问清是否包含版本升级,不然换代时还要再花钱

按自己的规模估一遍:一张可照着填的清单

前面几节讲的是科目,这一节讲怎么把它们填成一张属于你自己的年度账。四步走:定场景、定规模、填表、做敏感性检查。顺序别颠倒,场景和规模定不下来,填出来的数字没有参考价值。

  1. 定场景内部自用、对内多部门共用、还是对外提供服务。三种场景的人力与合规成本差异最大,先选定一种再往下走。
  2. 定规模把并发量、日均请求量、知识库大小写下来,然后去站内部署测算页面查对应的显存与卡数口径,硬件账另算不混进来。
  3. 填表把四类科目各自写成一次性、按月、按年三列,只填你能找到依据的数字,找不到依据的先标问号不要硬填。
  4. 做敏感性检查把并发翻一倍、把人力减一半,看总额变化是否还在可接受区间;最容易崩的那一项,才是你真正的风险点。

这张表的价值不在那个总额数字,而在标问号的那几行。标了问号的科目,就是你上线后最可能超支的地方,提前留缓冲比事后补预算从容。具体到电力、带宽、支持这些科目的当前口径,去站内价格与用量类页面核对当时的数字。

哪些能省,哪些千万别省

省钱要按科目分,不能一刀切。可以省的:非必要的外部支持、可以延后的版本升级、能用现成开源工具替代的商业监控、非核心的集成范围。不要省的:备份与回退能力、基础监控、合规与授权留档。后三项出问题的代价,通常远高于省下来的钱,属于省了就等着赔的科目。

预算表上最贵的从来不是显卡那一行,而是你以为不会发生的那几行。

最后给一个习惯:用站内价格与用量类页面对齐口径,把「当前」的数字记下来,过一段时间再核一次。因为计费方式、额度、支持范围这些都会变,一次算完就锁进抽屉的表,第二年基本就不准了。

下一步把你填好的表里标问号的科目挑出来,去站内价格与用量页面核对当前口径,再把硬件账单独放到算力与 TCO 页面去算,两边合起来才是完整的一本账。

常见问题

不开源权重是不是就没有授权成本?

不一定。权重可下载不等于可随便商用,许可证可能有署名、用途或规模限制;如果另买了带支持的服务,还会有一笔按年或按节点的费用。签约前把用途、对外服务和再分发这三件事跟对方确认清楚。

年度开销里人力一般占多大比例?

这跟团队现有运维成熟度关系最大,没有统一比例。稳妥做法是先记两周实际投入的工时再折算,而不是直接拍一个百分比,然后看看砍掉一个角色会不会影响可用性。

只做内部小规模自用,能不能只算电费和机器?

可以简化,但要留两笔:一是版本升级时的人力,二是备份和监控的基础投入。自用场景下合规和授权负担小一些,一旦将来对外提供服务,这两块要重新评估。

预算被砍了一半,先砍哪一项?

优先延后非必需的版本升级和外部支持,其次减少冗余采购;不要动监控、备份和授权留档。可以先把场景缩小到单一部门验证,等成本模型跑通再扩。

怎么判断自己的估算是不是偏乐观?

把并发量、人力投入和升级频率各上调一档重算一遍,如果总额超出可接受区间,说明你的预算里缺了缓冲项。具体口径可以到站内部署测算与成本计算工具页核对。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。