想在自己机器上跑 DeepSeek,卡在哪一步基本不是技术问题,而是钱:显卡要不要买新的、租卡能不能顶住、电费和机位算不算进去。这篇不给你一个拍死的数字,而是给你一张能自己填的账表:先分清成本分几块,再按模型规格和量化档位倒推显存与卡数,最后给出预算紧时的取舍顺序,让你在花第一笔钱之前就知道哪块最容易超支。
想在自己机器上跑 DeepSeek,卡住多数人的不是技术,是钱:显卡要不要买新的、租卡能不能顶住、电费和机位算不算进去。这篇不给一个拍死的数字,而是给你一张能自己填的账表。先分清成本分几块,再按模型规格和量化档位倒推显存与卡数,最后给出预算紧时的取舍顺序。
核心原则只有一句:先定义要跑什么,再谈花多少。规格没定,任何报价都没意义;并发没定,任何卡数都是猜的。下面每一节都对应一个能自己动手做的动作,数字一律到站内页面核对当时的行情,别拿别人的截图当自己的预算。
先把钱分成四笔:一次性的、每月的、按用量的、隐性的
很多人算账失败,是因为把显卡钱和每月电费塞进同一栏比大小。这两类支出性质完全不同:硬件是一次性投入,可以摊到使用年限里;租卡、电费、机位是每月重复支出,停用就归零;按用量计费的部分则跟着调用量走。混着算,你永远不知道自己贵在哪。
| 成本类别 | 典型项目 | 什么时候发生 | 容易漏算的点 |
|---|---|---|---|
| 一次性 | 显卡、整机、机柜、备件 | 采购当下 | 只算了卡价,没算电源、主板、机箱和备件 |
| 每月固定 | 电费、机位、带宽、托管 | 每个月 | 按显卡标称功耗估算,低估整机功耗 |
| 按用量 | 租卡时长、云上溢出、存储 | 随使用波动 | 低估高峰期的溢出成本 |
| 隐性 | 运维人力、停机、返工 | 出问题时 | 自建场景里这块往往比电费还贵 |
判断标准很简单:如果你的团队已经有闲置服务器或公司机房能塞进去,第一栏接近零,重点要转到电力和运维。反过来,如果是从零起步、没有机房、没人管硬件,那隐性成本会往你身上压,这时候先租卡往往更划算。
- 把上面四栏抄成一张自己的表,先只填「有没有」这一项,不填金额
- 一次性支出按计划使用年限摊到每月,再和每月固定支出放一起比较
- 隐性成本按「出故障时谁来修、修多久」折算成小时数,先记下来
- 四栏都填完再决定采购还是租用,顺序别颠倒
先定要跑哪个规格,成本才有分母
不同参数规模的 DeepSeek 模型,对显存的要求差一个量级。规格没定就谈预算,等于没有分母。粗估方法是:参数量乘以精度对应的字节数,再加上上下文和并发余量。具体换算关系会随量化方案变化,别背死数,到站内部署测算页核对当时的数字更靠谱。
这里有个高频坑:同一个模型名字下面,可能有蒸馏版、满血版、不同量化版本。选错规格,预算会整段偏掉,而且偏的方向往往是偏小——你以为买一张卡够了,实际要两张。下单前务必把你要跑的版本、精度、上下文长度三个参数写清楚。
- 写下任务清单列出实际要跑的任务类型:对话、代码补全、文档摘要、批量推理,各自占比大概多少。
- 锁定一个规格从任务清单倒推最小可用的参数规模和精度档,宁可先小后大,别一步到位上满血。
- 跑一遍测算拿规格、上下文、并发三个输入去站内测算页跑,记录它给出的显存区间,作为后续比价的基准。
- 留出余量在测算结果上再留一档余量,应对后续任务变复杂或上下文拉长的情况。
什么情况下这一节可以跳过?只做接口转发、本地只放一个很小模型做前置处理的场景,成本分母不在本地,直接看中转或云端方案更实际。到站内工具目录挑一个现成的比价或测算工具,比在这里空想快得多。
量化档位直接决定你要买几张卡
量化是把模型权重压到更低比特来省显存。从高精度到低比特,显存需求逐档下降,但质量损失不是线性的:一开始损失很小,压到很低的档位之后会突然变明显。所以「越低比特越省钱」这句话只在任务简单时成立,做数学、代码、长上下文推理这类任务要格外留余量。
| 精度档位 | 显存占用趋势 | 适合的任务 | 什么时候不建议降档 |
|---|---|---|---|
| 高精度 | 最高 | 对准确率敏感的任务 | 预算和卡位都够,不要为了省而省 |
| 中等精度 | 居中 | 通用对话、摘要、问答 | 任务里有代码或数学推理时慎用 |
| 低比特 | 最低 | 简单分类、格式转换、轻量前置 | 长上下文、多轮推理、输出稳定性要求高时不建议 |
判断标准:先拿目标量化档位跑一批真实任务样本,看错误率和返工量能不能接受。省下来的显存如果换来返工,账是亏的。量化方案不是越省越好,而是「刚好够用」最好。
- 把候选量化档位列出来,每个档位准备同一批测试样本
- 重点看长上下文场景下的输出稳定性,退化在这类任务里最明显
- 记录每个档位的显存占用和实际可用性,两栏一起看
- 如果两个档位差距不大,选质量更稳的那个,别赌
买卡、租卡、还是先拿云端试跑
预算有限时的判断顺序是:先租后买、先小后大、先用云端验证负载再决定采购。原因很直白——你对真实并发和任务分布的估计,大概率是错的。先用租卡跑一段真实负载,把并发曲线和显存占用摸清楚,再去谈采购,报价口径才对得上。
买卡要额外算三年折旧、电费、机位和故障停机的账。这些项目在租卡场景里通常已经含在单价里了,所以租卡单价看起来贵,其实未必。要对比的话,到站内算力 TCO 页面核对当时的对比口径,别拿一个裸卡价去和含电含机位的租用价比。
| 使用时长 | 适合方式 | 理由 | 要核对什么 |
|---|---|---|---|
| 低频短时 | 租卡 | 按需付费,停用不产生固定支出 | 租用单价是否含电和机位 |
| 长期中等负载 | 自购整机加租卡溢出 | 常用部分自己扛,高峰租卡 | 折旧、电费、峰值溢出成本 |
| 长期满负载 | 自建多卡 | 摊薄后单卡成本可能更低 | 机位、电力、备件、扩容余量 |
什么情况下这条路直接排除?数据不能出内网、合规要求写死的场景,租公共卡可能根本不满足前提条件,这时只能看自建,预算要按最保守的估计来留。
电费、机位与运维:最容易被低估的一块
电费的计算口径是整机功耗乘以运行小时再乘以电价,不是显卡标称功耗。整机还包括 CPU、主板、内存、风扇和电源损耗,实际会比显卡标称高出一截。机位、带宽、UPS、空调在自建场景里都是真实支出,租卡场景通常已经打包在单价里,别重复算也别漏算。
运维人力是最容易被忽略的一项。小团队往往是自己兼着管机房,平时看不出成本,出故障时全组停摆。折算方法:把过去一段时间处理硬件问题花掉的小时数记下来,乘上团队时薪,就知道这块大概值多少。
- 电费:整机功耗乘以每天运行小时,再乘当地电价,按月汇总
- 机位:自建算机柜或托管费,租卡通常已含
- 带宽:看是否需要独立出口和备份链路
- 备件:电源、风扇、硬盘这类易损件的储备预算
- 人力:把硬件相关工时单独记账,别混进业务开发时间
并发一上来,卡数就翻倍
单人试用和多人同时用,显存与吞吐需求差很多。很多人的预算按最理想的单路估算,结果一上并发就不够用。正确做法是按真实并发数、上下文长度和单卡吞吐倒推卡数,具体换算用站内部署测算页的当时结果,不要凭感觉加卡。
排查顺序要固定下来:先降上下文长度,再降并发上限,最后才考虑加卡。加卡永远是最后一招,因为它的成本是台阶式上升的——不是多买一张卡,而是多一套电源、机位和运维。低峰使用、并发长期不超过个位数的团队,按单卡方案先跑起来通常够用。
- 测真实并发统计一段时间内同时在线的请求数峰值,不是平均值,峰值才是决定卡数的那个数。
- 压测单卡上限用目标模型和量化档位压测单卡在可接受延迟下的并发上限。
- 倒推卡数峰值并发除以单卡上限,向上取整,再留一档扩容余量。
- 先优化再扩容如果卡数看起来不合理,先回去降上下文或降并发,确认降不动了再谈加卡。
按预算分三档的落地路径
预算没有统一标准,但路径可以分档。紧预算就租卡加低比特量化加小规格模型,先把流程跑通再谈升级;中预算可以自购一台整机长期跑常用负载,高峰期溢出到租卡;宽预算考虑自建多卡并预留扩容位,但前提是电力和机位先谈妥。
| 预算档 | 推荐路径 | 先做哪一步 | 风险点 |
|---|---|---|---|
| 紧预算 | 租卡为主,小规格加低比特量化 | 先用云端验证负载 | 质量不够导致返工 |
| 中预算 | 自购整机加租卡溢出 | 先压测确定单机容量 | 高峰期溢出成本失控 |
| 宽预算 | 自建多卡加扩容预留 | 先把电力和机位敲定 | 扩容受限于场地和电力 |
每一档都对应一组可核对项,金额一律到站内价格追踪和算力 TCO 页面看当时的数字,不写成固定值。别拿别人的配置单直接抄,任务分布不一样,同样的卡数未必扛得住你的并发。
下单前的核对清单与常见超支点
常见超支点其实就几个:按最低量化估显存结果质量不够、忽略长上下文占用、忘记算运维时间。这三个里任何一个踩中,预算都会往上跳一档。下单前逐项核对,把不确定的点标出来先解决,比事后补救便宜得多。
- 模型规格、量化档位、显存余量是否都写清楚
- 并发假设是否基于实测峰值,而不是估算平均值
- 整机功耗、电价、运行小时是否算进每月支出
- 机位、带宽、备件是否有明确出处
- 运维人力是否折算成工时记了账
- 回退方案是否准备好,出问题时能不能切回云端或租卡
清单只能帮你少踩坑,不能替代小规模试跑;预算再紧,也留一笔钱做真实负载验证。
效果边界要说清楚:这份清单不承诺省钱,它只保证你的估算口径是完整的。真正省钱靠的是先租后买、先小后大、先用真实负载验证再采购。拿不准的时候,先租一个短周期把负载跑出来,再决定要不要掏采购款。
下一步把上面清单里的不确定项带到站内测算和比价页面,用你自己的参数跑一遍,再拿结果去和供应商对齐报价口径,比直接问价靠谱得多。→常见问题
本地部署 DeepSeek 是不是一定比调用官方 API 便宜?
不一定。低频、小规模使用时,调用通常比自建划算;只有长期高负载、有数据不出内网要求、或者需要深度定制时,自建才可能摊薄成本。先把月用量和并发估出来,再去站内算力 TCO 与官方 API 价格页面对比,别凭感觉选。
预算有限,第一步该省在哪?
优先省在硬件形态上:先租卡、先跑低比特量化、先用较小规格模型验证流程,跑通之后再决定要不要买整机。最不该省的是显存余量和电力散热这两块,后期返工和停机的代价通常比当初多花的钱高。
量化之后质量掉得厉害怎么办?
先确认掉分出现在哪类任务上,长上下文、数学和代码类任务对量化更敏感。可以试两档量化做同题对比,选保留质量的那一档,或者把高频任务保留高精度、低频任务放到量化版本上,用分流而不是一刀切。
电费这块到底要不要算进成本?
如果你在自己办公室或家里长期跑,一定要算,整机功耗乘运行时长再乘电价,摊到每月并不小;如果是租卡,电费通常包含在单价里,核对报价口径时确认一下是否额外计费即可。
什么时候应该放弃本地部署?
当你的使用频率低、并发很少、数据没有强合规要求、且没有能力承担故障排查时,本地部署的隐性成本会超过收益。这种情况下先用云端接口把业务跑起来,等负载稳定了再回头看自建划不划算。