你想把 DeepSeek 跑在自己机器上,数据不出本地,但一搜教程全是命令行、Docker、端口、显存,不知道从哪下手。这篇不铺原理,只给一条能走完的三步流程:先定部署路子,再把环境装上并让服务起来,最后用一次真实调用验证通不通。每步都写清判断标准和卡住时的排查顺序,硬件吃不吃得消、什么情况下干脆别本地部署,也一并说。
你想把 DeepSeek 跑在自己机器上,数据不出本地,但一搜教程全是命令行、Docker、端口、显存,根本不知道从哪下手。这篇不铺原理,只给一条能走完的三步流程:先定部署路子,再把环境装上并让服务起来,最后用一次真实调用验证通不通。
每步都写清判断标准和卡住时的排查顺序。硬件吃不吃得消、什么情况下干脆别本地部署,也一并说。先记住一件事:本地部署的难点从来不是「装不上」,而是「装完不知道自己算不算成功」。
第一步:先定路子,别急着装
这一步的核心是先分叉,两条路的后续操作完全不同。路线选错,后面装再多东西也是白费。先把用途想清楚:只是自己聊天用,还是要让脚本、编辑器插件来调它。
| 你的用途 | 该选的路 | 判断信号 |
|---|---|---|
| 自己问答、写东西,不想折腾接口 | 图形化本地客户端 | 装完点几下就能聊,不需要记地址端口 |
| 要让脚本或编辑器插件调它 | 自建推理服务 | 需要一个本地监听地址和端口给别的程序连 |
| 只是偶尔用、数据不出本地没硬要求 | 先别本地部署 | 时间成本大概率不划算,直接走云端更省事 |
- 判断门槛只看三件事:机器有没有独显、显存够不够放下你要的模型规格、硬盘留没留出模型文件的存放空间。
- 三个里有一个不够,就往「换更小的量化版本」或「干脆走云端 API」退,别硬扛。
- 去 /models/deploy 按你的卡和模型规格算一遍,再到 /compute/gpus 核对加速卡规格,别凭感觉估。
- 不适用的情况:如果你的用途只是偶尔问答、对数据不出本地没有硬要求,本地部署的时间成本大概率不划算,直接看 /official-api/providers/deepseek 更省事。
第二步:装环境、让服务真的起来
走到这一步,两条路的操作分开。图形化客户端路线简单,自建服务路线步骤多一点,但核心目标只有一个:让服务在本机真正跑起来,并且你手上有它的地址和端口。
- 路线 A:图形化客户端下载安装包,把模型下载目录指到大容量硬盘,选一个能跑得动的模型规格。装完先在本机对话框里问一句,能出字就算过。
- 路线 B:自建服务先确认运行环境(驱动、运行时、依赖)装全,再用官方镜像或一键脚本起服务。启动后一定要拿到一个本地监听地址和端口,后面所有验证都围绕它。
- 下模型文件这是最容易卡住的一步。网络中断、磁盘满、下载到一半被杀掉,都会导致加载时报文件缺失。分次下载、留足空间、记下模型存到哪个目录,比追求一次下完更重要。
- 起服务并自检端口别乱选,避开系统常用端口。起完服务先在本机用浏览器或 curl 打一次健康检查地址,确认进程活着再谈调用。
这里要提醒一句:进程起来了不等于服务能用。很多人卡在这一步,以为装完了,其实模型根本没加载成功。所以下一步必须做一次真实请求。
第三步:验连通,卡住按顺序查
验证标准就一条:用一次真实请求拿到正常回复,而不是「进程起来了」就算成功。请求走的是本地地址,先确认这一步通了,再考虑接进别的程序。卡住的时候,按下面的顺序逐一查,不要跳步。
- 进程在不在:先确认服务进程没退出。
- 监听的地址和端口对不对:看服务启动日志里实际绑定的地址和端口,别凭记忆填。
- 本机能不能连上这个端口:用 curl 或浏览器打一次健康检查地址。
- 模型有没有加载成功:看服务日志里加载完成那行,没这行说明模型还没就绪。
- 单次请求的响应时间是否在你能接受的范围内:先量一条延迟基线再判断慢不慢。
接入到编辑器或脚本时,接口形态和字段跟云端不完全一样,兼容层怎么配去看 /guides/ollama-openai-compat-engineering 这类已有文章,别在这篇里重新发明。延迟基线到 /tools/speed-test 记录首字时间和整体耗时,之后换模型规格或调参数,才有对照。
下一步想对比自己跑和走官方 API、中转站到底差在哪,以及当时的报价和延迟数字,去站内核对一遍再决定。→常见问题
本地部署 DeepSeek 一定要有独立显卡吗?
不一定,但有没有独显直接决定你能跑到什么规格、回答有多快。只有核显或纯 CPU 也能跑小规格的量化版本,代价是速度慢、上下文短。先到 /models/deploy 按你的机器算一遍,算出来放不下就别硬上,换更小规格或者退回去用云端接口。
部署完了,怎么确认它真的能用?
别拿「进程没报错」当成功。做一次完整调用:发一句真实提问,看有没有完整回复、首字等了多久、整段花了多久。再到 /tools/speed-test 记下这次的数据当基线。之后换模型规格或调参数,都跟这条基线比,才知道是变好还是变坏。
本地跑和直接调云端接口,该怎么选?
看两件事:数据能不能出本地,以及你愿不愿意为省下的调用费付硬件和时间成本。数据敏感、想完全断网用,就本地;只是偶尔用、机器一般,云端更省事。价格和规格去 /official-api/providers/deepseek 看当时的数字,别用记忆里的报价做决定。