ChatGPT和国内大模型常见问题:先把「哪件事归谁管」分清

模型与算力

把ChatGPT和国内大模型混在一起问,问题永远答不完。这篇按账号、能力、接入、成本四层拆开,给判断标准和排查顺序。

很多人问的其实不是一个问题,而是四五个问题挤在一起:登不上、答得不对劲、接口接不通、账单看不懂。混着问就只能得到混着的答案。这篇把ChatGPT和国内大模型常见问题按层级拆开,告诉你怎么判断自己卡在哪一层,每一层该看什么、先动哪一步,以及哪些情况下这套判断不成立。

先把问题分层,不然问了也白问

「它不好用」这句话,放在不同人嘴里说的是完全不同的四件事。有人是登录不上,有人是回答太水,有人是接口调不通,有人是月底账单一出来觉得贵。这四件事的排查动作没有一条是重合的,先定位层次再动手,不然你在计费页面翻半天,问题其实卡在账号上。

层次典型症状先看什么
能不能用(账号与访问)登录失败、验证码收不到、页面转圈、请求被拒账号状态、所在网络环境、客户端是不是最新的
答得好不好(能力与任务匹配)回答笼统、格式不对、理解偏了、长文被截断任务描述是否写清受众和长度、换一个更难或更简单的任务对比
接不接得上(接口与格式)报错码、超时、返回结构对不上、流式断掉请求参数、内容格式、超时设置、客户端版本
花不花钱(计费口径)用量比预期高、免费额度用得快、账单看不懂计费按什么单位算、哪些操作算量、套餐和按量的差别

分层的用处在于缩小范围。同一句「它不好用」,如果落在第一层,你去改提示词是白费;如果落在第二层,你去查接口文档也是白费。我一般先问一句:换一个客户端还这样吗?网页端换到手机端,或者反过来,问题跟不跟着走。跟着走,多半在账号、网络或服务本身;不跟着走,问题就在你用的那个客户端上。

  1. 换客户端复现同一个任务换个入口再跑一遍,比如从网页换成手机应用,或从应用换成接口。问题消失,说明是客户端侧的配置或版本问题,别再去动账号。
  2. 换任务复现把问题换成一个明显更简单的任务再做一次。简单任务正常、复杂任务出问题,属于能力与任务匹配这一层,去调任务描述;简单任务也失败,往访问和接口层查。
  3. 换参数复现接口报错时,把请求参数退回到最小可用的一组,只留必填项再发一次。能通就一项一项加回去,加到哪项断掉,问题就在那项上。
  4. 对照计费口径觉得花多了,先把当期用量按计费单位拆开看,分清是输入算得多还是输出算得多。口径没看明白之前,别急着换模型或换套餐。

这套方法有个不适用的情况:问题本身就是间歇性的,比如偶尔超时、偶尔返回空。这时候单次复现说明不了什么,得连续跑几次看规律,或者换个时间段再试。另外,涉及账号权限和付费功能的问题,换客户端复现往往会掩盖真实原因,这时直接看账号状态和计费页面更省事。具体数字和口径到站内页面核对,别凭记忆。

第一层:进不去,多半不是模型的问题

先把话说死:绝大多数「打不开」「转圈圈」的反馈,问题根本不在模型本身。模型在机房里跑得好好的,你这边连请求都没发出去。所以排查的顺序应该倒过来——先确认自己这一端通不通,再去怀疑服务商。

你看到的现象更可能卡在哪先做什么
登录页打不开、验证码刷不出来网络到登录域名的链路,或者浏览器缓存/Cookie换浏览器无痕窗口重试,再换网络环境对比
页面能打开,提问后一直转圈或报超时请求发到了 API 域名但没回包,可能是线路或代理配置打开浏览器开发者工具看请求卡在哪一步,别急着重装客户端
能正常对话,但提示额度不足或调用受限账号本身的配额或计费状态去账户后台看用量和余额,别当成模型故障

这三类表现对应的处理动作完全不同。第一种是接入问题,折腾客户端没用;第二种多半出在代理、DNS 或者本地防火墙,跟模型能力一点关系没有;第三种才是账号层面的事,去后台看数字比在群里问一百遍都快。搞混了就会浪费一晚上。

  • 现象是「页面白屏」——先怀疑网络和浏览器,别怀疑模型
  • 现象是「能打字但没回应」——查请求有没有真的发出去
  • 现象是「回了但说你没额度」——查账户用量,不看模型介绍页
  • 同一个网络下换个设备试试,能区分是环境问题还是账号问题
  • 报错信息原样记下来,后面找人问或者查文档都靠它

还有个高频误会:国内各家模型平台是各自独立注册的,账号体系不互通。拿 A 家的账号去登 B 家的接口,结果只能是认证失败,这跟模型好坏没有半毛钱关系。接口地址、密钥、控制台,都是各管各的,别串着用。

至于官方入口到底在哪、某些地区访问有没有差异,这种信息会变,别信截图和口口相传。到站内对应厂商的页面核对当下的说法就行,路径是 /vendors,找到你要的那家再看入口和备注。走错门进到仿冒站,填了密钥才是真的麻烦。

第二层:答得不对,先看任务和提问方式对不对

同一段提示词丢给两家模型,出来一个像样、一个跑偏,这事儿太常见了。多数人的第一反应是「这家不行」,然后急着换。先别。你先问自己一句:我给的这段提示词,换谁来都能答好吗?很多时候不是模型差,是任务没说清。

比模型之前,先把提示词固定下来。同一个问题、同样的约束、同样的输入,只换模型,这样比出来的差异才算数。反过来说,你每次改一句提示词、又换一家模型,最后根本分不清是模型的问题还是你问法的问题。实际用下来,光是把「给谁看、要多长、不能出现什么」写进开头,效果比换模型来得快。

  1. 固定一版提示词把要问的事写成一段完整的话,存下来别动。给谁看、要多长、不能出现什么,这三件事写在最前面。后面每次只换模型,提示词原样复制。
  2. 只改一个变量要么只换模型,要么只改提示词,别两件事一起动。一次只动一个,你才知道是哪边带来的变化。
  3. 按任务分开记同一批模型,长文总结记一份、写代码记一份、看图记一份。别拿一个任务的结果给其他任务下结论。

这里有个常被忽略的点:长文总结、写代码、看图,这三类任务考的能力根本不一样。有的模型长文抓得住重点但代码写得啰嗦,有的代码利索但读长文档容易漏段,看图的又是另一套本事。你拿一篇长文总结去判断一个模型写代码行不行,结论一定是错的。所以别用同一个任务给所有模型下总结,按你真实要干的活分开试。

任务类型看什么什么情况下这条不适用
长文总结能不能抓住主线、有没有漏掉关键约束原文本身结构混乱时,先整理输入再比
写代码能不能跑、边界情况有没有覆盖只写一行脚本的场景,差异其实很小
看图图里的细节认没认对、位置关系说没说清图太糊或信息太少,换谁都答不准

当然,固定提示词、按任务分开测,这套办法也有不适用的时候。你要是就想快速看一眼某个模型对某个冷门问题的反应,没必要搞这么正式,随手问一句就行。但要拿结果做判断、决定以后长期用哪家,这套流程就值得走一遍,不然很容易被一次偶然的坏回答带偏。想对照各家模型的资料和任务侧重,可以到 /models 翻一翻,再回来看自己测出来的结果。

第三层:接口接不通,八成是地址和鉴权对不上

接口报错这件事,最怕一上来就怀疑模型不行、账号被封、平台跑路。实际排查下来,绝大多数是地址和鉴权没对齐。尤其是你在 ChatGPT 那边调通了一套代码,转头换国内平台,地址一改就以为完事,结果 key 的放法、模型名的拼法都不是一回事。

说白了,先别碰业务代码。找一个能发最小请求的地方,把四件事逐个确认:base_url 够不够完整、模型名有没有拼对、key 放在哪个位置、请求头里有没有多余的字段。这四样对齐了,通不了的概率很低;还通不了,才轮到往平台侧想。

  1. 看 base_url 有没有版本段很多平台的基础地址必须带到版本那一段,少一截就会 404 或者走到错误路由。拿平台文档给的原始地址逐字符对,别自己凭记忆拼,也别把末尾斜杠加加减减。
  2. 对模型名,别对「差不多」模型名是大小写、连字符、后缀都敏感的字符串。从文档复制,不要手打。报「模型不存在」时先怀疑拼写,而不是先怀疑权限。
  3. 确认 key 放 header 还是 queryOpenAI 兼容格式一般走 Authorization 请求头,但国内平台不完全统一,有的还认自定义头或 query 参数。放错位置的表现通常是鉴权失败,而不是地址错误,别混着查。
  4. 发一个最小请求只带一条最短的对话或一次最简单的补全,把返回结构打印出来。通了再往业务代码里搬,别一上来整条链路联调,出错时你分不清是自己的逻辑还是接口本身。
现象先查哪里常见原因
404 或路径不存在base_url 是否带版本段地址缺一段或多了斜杠
模型不存在模型名字符串手打拼错、大小写不对
鉴权失败key 的放置位置该放 header 放成了 query
参数报错请求体字段平台对某参数支持范围不同

这里有个容易忽略的点:国内平台大多提供 OpenAI 兼容格式,但「兼容」不等于「一模一样」。字段名可能一致,可选参数的支持范围却不一样,有些参数传了会被忽略,有些传了直接报错。所以最小请求跑通之后,再逐个加参数,加一个验一个,别一次性把整份配置搬过去。

如果你是在中转站和官方之间来回切,地址和 key 的对应关系更容易搞混。建议把每个渠道的 base_url、模型名、key 位置记在一张自己的小表里,切换时照表填。平台侧的资料和当前可用的接入信息,到 /providers 核对,比自己翻聊天记录靠谱。

第四层:账单看不懂,先对齐计量口径

账单一出来就觉得不对,多半不是被坑了,是两张账本被摆在一起比了。按 token 用的那套,花多少取决于你发了多少字、收了多少字;按月订的那套,交的是一笔固定钱,里面塞了多少「额度」由平台说。这两笔钱没有天然换算关系,硬比只会越算越糊涂。

先把计量口径对齐,再谈贵不贵。同一个模型,输入和输出常常不是一个价,图片、音频这些模态还有自己的折算办法,各家规则写得都不太一样。这些数字会动,别记在脑子里,去 站内价格页(/pricing) 看当时的表格,按你实际会用到的那几项对。

账单类型钱花在哪对齐时看什么
按量计费输入 token、输出 token 分开算分别统计自己的输入量和输出量,别只记总字数
订阅套餐固定月费换一个额度池额度的计算方式、重置周期、超了怎么办
多模态调用图片等按折算后的 token 计入折算比例和是否单列,站内价格页有当时口径
  1. 先分清这笔钱属于哪套账翻账单抬头或计费说明,确认是预充值按量扣,还是订阅周期扣费。两套账分开记,别放进同一个表格里算单价。
  2. 把用量拆成输入和输出从调用日志里拉出输入 token 和输出 token 两个数,各乘各的价。只拿总 token 乘一个价,结果一定偏。
  3. 订阅额度按自己的调用量估订阅里的额度没有统一公式换回按量价,只能拿你近期的实际调用量去套,看够不够用、超了怎么计。估不准就先按月观察一轮。

一份能照着走的对照清单

顺序反了会怎样?有人先看榜单,哪个排前面就买哪个,结果接进项目发现数据不能出内网。钱花了,用不上。也有人先比价格,挑了个便宜的套餐,回头发现自家要的是多模型来回切,单家包月根本不够用。我的建议是倒过来:先把任务说清楚,再把约束划出来,最后才轮到看榜单和询价。

  1. 定主任务从日常对话、写代码、长文处理、看图里选一类当主力,别贪多。挑你一周里占时间最多的那件事,写下来,例如「每天读十几页英文文档并总结」。主任务定了,模型范围就小一半。
  2. 圈约束三件事逐条问:这批数据能不能出内网;预算想按量付还是包月;业务上是否需要多模型切换(比如便宜模型打底、难任务再换)。三条里有一条卡死,选型基本就定了,不用再看别的。
  3. 最后才看数字带着上面两条去站内比对价格和资料,而不是先看数字再倒推需求。价格随时会动,去看当时的数字,别信别人截图。
先问什么具体情况会砍掉哪些选项
主任务写代码为主长文和看图能力可以放次要位置
主任务看图为主纯文本便宜的方案直接出局
约束数据不能出内网海外直连基本排除,优先考虑本地或私有部署
约束要按量结算包月套餐先搁一边,重点看按量计费的单价
约束要多模型切换单家包月方案不够用,得看能不能接多家

这张表不是让你逐格打勾,是让你在选之前有个先后。注意一点:如果主任务是「什么都干一点」,那其实没有主任务,这种情况更该老实承认,直接按约束来筛,别硬凑一个主任务,反而误判。

还有个小坑。有人看到某家榜单靠前,就默认它适合自己,其实榜单测的多是通用能力,你的场景可能根本用不到那些长项。榜单可以当参考,但排在任务和约束后面看。价格同理,价格低不等于总成本低,按量算下来超支的情况不少见。具体数字到 站内价格页(/pricing) 核对当时的行情,别拿记忆里的数当准。

这套分层的边界在哪

前面说的分层,讲的是「这条报错该谁查、那个参数该谁填」。但它不是万能的。有些事压根不在技术层解决,你在这层怎么排查都是白费劲。先把这条边界划出来,后面能省很多口舌。

最典型的是三类:合规与备案、数据出境、企业采购。这三件事的判断标准不在模型接口上,也不在调用日志里,而在公司内部流程上。技术同学能做的,是把事实说清楚,比如数据流向哪、存了多久、谁能访问,然后交给对应的人走流程。别自己拍脑袋下结论,也别指望在工单里问出答案。

事情归谁管技术层能做什么
合规备案法务/合规说明模型用途、对外呈现方式、留存策略
数据出境安全/法务,配合 IT画清数据流:从哪进、经过谁、落在哪
企业采购与合同采购/财务/法务提供用量口径、接入方式、依赖程度
限流与故障平台侧+你的运维准备退避重试、降级方案和告警
模型调整平台侧留出切换空间,别把逻辑绑死在一个模型上

另一条边界是「同样的输入,同样的输出」这个假设本身就很脆。平台侧会限流,会临时故障,也会调整模型能力和默认参数。你昨天调通的提示词,今天可能就偏了。这不一定是你的问题,也不一定有公告。所以别把业务逻辑建在「输出一定稳定」上,尤其是那些下游还要程序解析的环节。

  1. 把不确定性显式化凡是依赖模型输出的地方,先加一层校验或兜底,比如解析失败就落人工队列,而不是直接抛错。
  2. 留一个第二方案长期跑同一个模型的任务,提前接一个可替换的备选,把调用封在一层适配里,换模型时只改一处。
  3. 定好切换触发条件提前想清楚什么情况换:连续失败、输出格式崩、成本超预期。写下来,别临场吵。
  4. 定期复核依赖把「只用一个模型」的环节列出来,隔段时间看一遍,问自己断了怎么办。

说白了,技术层擅长的是「怎么调通、怎么排错、怎么降级」,不擅长也不该替合规、采购、数据出境做判断。把这条线跟同事讲清楚,很多来回扯皮的事一次就定下来了。想对照具体平台的能力和接入方式,到 模型资料库(/models) 和 指南中心(/guides) 看当时的说明。

常见问题

ChatGPT和国内大模型最大的差别是什么?

不在谁更聪明,而在可用性边界:能不能稳定访问、支不支持你要的接口格式、数据能不能出内网、计费按什么口径。这几条决定了它能不能进你的流程,能力排序反而是后面的事。

同一个问题两边答案不一样,该信哪个?

先固定提示词和输入,再对比输出差异。差异大通常来自训练侧重和知识截止时间,不代表谁错。涉及事实的内容都要能追溯来源,模型说法只能当线索。

国内模型能不能直接用OpenAI的SDK调?

多数平台提供兼容格式,但字段支持不完全一致,流式、工具调用、多模态参数的写法容易踩坑。先用最小请求打通,确认返回结构,再接业务代码。

用哪家更省钱?

没有统一答案。按 token 计费和订阅是两套账,得拿你自己的月调用量去套。站内价格页和成本计算器能看到当时的数字,照着算比听推荐靠谱。

什么时候该同时用两家?

主任务对稳定性要求高、或者需要长文和看图分开处理时,配一个备用模型是合理的。代价是要维护两套 key 和两套提示词,量小的时候不划算。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。