很多人第一次配 AI 接口就卡在这:文档里一会儿说客户端、一会儿说服务端,到底哪个是我电脑上装的?这篇不讲协议原理,只给判断标准和对照表,让你看完能一眼分清手上这个东西跑在哪、报错时该查哪一边。
很多人第一次配 AI 接口就卡在这:文档里一会儿说客户端、一会儿说服务端,到底哪个是我电脑上装的?其实这两个词讲的不是两种软件,而是同一件事里两个不同的角色。你打开、点按钮、敲字的那一层,通常就装在你这台电脑或手机上;真正干重活、一直开着等你来连的那一层,多半在别人机房里。这篇不讲协议原理,只给判断标准和对照表,让你看完能一眼分清手上这个东西跑在哪、报错时该查哪一边。
先把结论放前面:客户端大概率是你电脑上那个,服务端大概率不在你电脑上。但这句话有例外,本地部署的时候服务端也被搬到了你自己机器上,这时两者同机,却仍然是两个独立进程。所以更稳的判断方式不是看机器,而是看它在整个链路里扮演什么角色、有没有对外提供能力。
先分清:谁在你这台电脑上跑
客户端是你直接打交道的那一层,装在电脑或手机上,有人打开它才有动静;服务端是别人机房里一直开机、等你来连的那一层,你不开客户端它也在那儿待着。判断一个东西属于哪边,别背定义,用下面几个动作去验,比看名字可靠。
- 关掉它,这台电脑是不是就什么都干不了了?多半是客户端
- 你有没有亲手装过它?从没装过却一直在给你提供能力的,多半是服务端
- 任务管理器里看进程:只在你自己登录后才出现的,偏客户端;开机就在、常驻后台、监听端口的,偏服务端
- 看它有没有对外提供接口:只回数据、被别的程序调用的,偏服务端;有窗口、有设置页、给你点的,偏客户端
一张对照表,四步定位你手上这个东西
下表的四步按顺序走,基本能覆盖普通用户会遇到的情况。不用四步全对上,前两步能对上方向,后两步用来确认。注意这张表只适用于单机场景,如果你连的是别人的服务,第三步会直接告诉你答案。
| 观察点 | 偏客户端 | 偏服务端 |
|---|---|---|
| 安装方式 | 下载安装包、双击运行 | 命令行启动、给别的程序提供接口 |
| 有没有界面 | 有窗口、图标、设置页 | 只回 JSON、只监听端口 |
| 它连谁 | 配置里要填一个地址 | 那个地址指向的就是它 |
| 日志在哪 | 自己电脑的应用目录 | 服务器上,或本地服务进程的输出 |
- 第一步:看安装方式下载安装包双击运行的多为客户端;靠命令行启动、启动后不弹窗只等待连接的多为服务端。这一步能筛掉大部分情况。
- 第二步:看有没有界面有窗口、图标、设置页的是客户端;只回结构化数据、不给你点的是服务端。有些服务端带个管理页,那是管理界面,不等于它是客户端。
- 第三步:看它连谁客户端一般要在设置里填一个地址,那个地址指向的就是服务端。如果你被要求填地址,说明你手上这个不是服务端本身。
- 第四步:看日志落在哪客户端日志在自己电脑的应用目录里,服务端日志在服务器上或本地服务进程的输出里。找不到日志位置时,翻一遍安装目录通常就有答案。
报错时该查哪一边
分清角色的最大用处,是报错时知道先翻哪一边。同一个「连不上」,可能是客户端地址填错,也可能是服务端真挂了,但排查顺序有先后,按下面这个优先级走能少绕圈子。
- 提示连不上、超时:先怀疑客户端配置里的地址和端口写错,别一上来就认定服务端挂了
- 提示鉴权失败、权限不足:重点看密钥和服务端侧的账号状态,跟客户端版本基本无关
- 两边都正常但结果不对:先看客户端发出去的请求长什么样,再对比服务端返回的内容
- 拿不准时做最小请求测试:客户端里测不通、命令行直接测通,问题就在客户端这一层
# 最小请求测试思路:绕开客户端,直接对地址发一次请求\n# 能通说明服务端和网络没问题,问题在客户端配置\n# 不通再往服务端和网络方向查\ncurl -sS -m 10 <你配置里的地址>判断不清的时候,先问一句:这一步是在跟你电脑上的软件说话,还是在跟后台那台机器说话。
分清了有什么用:少走弯路
接入 AI 接口时,你要改的通常是客户端的地址、密钥、模型名,服务端那侧你基本碰不到,顶多是在控制台里开权限、查额度。配本地模型时角色反过来,你要自己把服务端跑起来,客户端只是去连它。同一个名词在不同文档里来回跳,容易让人以为要装两个东西,其实往往只需要装客户端。
- 接入云端 AI 接口:改客户端配置即可,服务端是别人维护的
- 本地跑模型:你要自己启动服务端,再用客户端去连
- 团队协作:客户端每人各装一份,服务端统一维护一份,改动影响范围完全不同
- 看文档犯迷糊时:先确认这段话说的是装在你电脑上的那层,还是后台那层
- 和别人对不上说法时:把双方各自指的东西落到「进程在哪台机器上」,争论通常就结束了
各家中转站和官方接口在地址、模型命名、额度规则上差异不小,具体数字别凭印象,到站内页面核对当时的信息更靠谱。选之前也可以先用站内的检测工具过一遍连通性和返回是否正常,省得把服务端的问题误判成客户端配置问题。
下一步把手上这套配置按上面的四步走一遍,先确认哪个是客户端、哪个是服务端;再去中转站导航里对照一下你要连的地址和模型命名,最后用速度与连通性检测跑一次最小请求,报错该查哪一边就清楚了。→常见问题
我电脑上装的那个聊天软件,算客户端还是服务端?
算客户端。它负责界面和输入输出,真正算答案的模型在远端服务器上。它配置里填的那个地址,指向的就是服务端。判断依据很简单:关掉它,你的电脑本身没受什么影响,只是不能聊天了。
本地部署之后,是不是就没有客户端了?
不是。本地部署只是把服务端也搬到了你这台电脑上,它仍然是一个一直在后台监听端口、等请求的进程,客户端照样是你打开的那个界面或工具,只是它连的地址从远端换成了本机。两者同机不等于两者合一。
普通用户需要关心服务端吗?
大多数时候不用,你只需要把客户端配好。只有两种情况要碰:一是你要自己搭本地模型或自建中转,二是不管怎么配都连不上,这时才需要确认服务端那一侧是不是通的、地址是不是写对。