搜「ChatGPT和替代模型有哪些」,多半是手里有个活要干,但不知道除了ChatGPT还能用谁。名单这东西网上一抓一大把,看完还是不会选。这篇不列名字,给你一套从任务倒推的做法:先看你的活要不要长文本、要不要看图、要不要私有,再去对照官方价目和模型库把候选圈出来,最后用同一套题自己跑一遍。
搜这个问题的人,通常不是想收藏一份名单。多半是手里有个活卡住了,比如要把一批合同做成摘要、要把客服记录分门别类、要写个小脚本处理表格,然后听说除了ChatGPT还有别的选择,但不知道从哪儿下手。名单本身解决不了这件事,因为候选越多越选不动。
换个顺序会顺很多:先把任务摊开,看清它卡在哪几个点上,候选自然就收窄了。下面这套走法不追求覆盖全部模型,重点是让你在一两天内圈出两三个能试的对象,再用自己的题跑一遍。跑完你会得到一页纸,比任何榜单都更贴合你的活。
先别问有哪些,先问这活卡在哪
把任务拆成三个问题就够了。第一,一次要喂多长的材料,是几百字的一问一答,还是整本手册、整份代码库。第二,输出要不要能被程序接住,比如严格的 JSON、固定的字段、能跑起来的代码。第三,内容能不能出内网,客户数据、内部文档这类东西,一旦涉及合规就不能随便往外部服务送。这三问答完,候选范围通常只剩两三家。
做完这三问,不适用的情况也要说清楚:如果你的任务本身还在变,比如产品方向没定、提示词天天改,那先别急着比模型,先把任务固定下来。任务没定型的阶段换模型,只会把变量越换越多,最后说不清是模型不行还是题没出好。
还有个更省事的办法:同一个任务用两个模型各跑一遍,看输出差在哪儿。这比对着十份榜单看得准,因为榜单测的是别人的题,你的题只有你自己知道哪里刁钻。实际用下来,多数人做完这一步就能排除掉一半候选。
候选池按类型圈,别按名气圈
市面上的选择大致分四类,每类对应一种需求,混着比没有意义。闭源通用对话类适合日常问答、写作、轻量分析;闭源长文本与代码类适合整份文档、大段代码和需要严格格式的输出;开源可自部署类适合数据不能出内网、或者要自己微调的场景;多模态类适合看图、看截图、看扫描件。先确定你落在哪一类,再在这一类里挑。
| 需求特征 | 优先看哪类 | 不适用的情况 |
|---|---|---|
| 材料一次几百字,问答为主 | 闭源通用对话 | 任务涉及大量私有数据时,先解决合规再谈选型 |
| 整份文档、代码库、要求严格格式 | 闭源长文本与代码 | 只是偶尔处理长文本,为它单独接一套链路不划算 |
| 数据不能出内网 | 开源可自部署 | 团队没有运维能力,自部署的隐性成本会超出预期 |
| 要读图、读截图、读扫描件 | 多模态 | 图片质量差或版式复杂时,先做预处理再比模型 |
具体有哪些模型在架、规格是什么,别凭记忆,到 /models 看当前列表;原厂口径的说明到 /official-api/providers/openai 核对。模型名后面常带日期或快照后缀,说明你调的是某个固定版本还是滚动别名,这一点查不清就先确认清楚,否则后面复现结果会对不上。
价格和速度要量出来,不能估
单价只是账单的一部分。真正的大头常在输入长度和重试次数上:材料喂得长、输出格式不对要重来,费用会成倍往上走。所以别只看单次调用的标价,按你真实的用量结构折算一遍。到 /tools/model-cost-calculator 把输入输出比例、重试次数填进去,看的是整月的量级,不是一个请求的单价。
速度也是同理。同一个提示词在候选里各跑一次,用 /tools/speed-test 记下延迟基线,注意区分首字返回和整段完成,这两个数字对交互式产品的影响完全不同。价格会变,具体数字到 /price-watch 和 /official-api 核对当天口径,本文不写死任何数值。
小规模对照跑,一周就能出结论
准备十到二十条你自己的真实请求,覆盖两种情况:最常见的正常输入,和你遇到过最刁钻的那几条。两条候选链路跑同一套题,输出放在一起看。评分只看三件事,能不能直接用、要改几遍才能用、出错时能不能一眼看出错在哪。第三点常被忽略,但排障时最省时间。
- 备题从历史记录里挑十到二十条真实请求,补上几条边界情况,固定成一份题单
- 跑对照两个候选各跑一遍同一份题单,输出原样保存,不要中途改提示词
- 打分按可直接用、修改次数、错误可读性三项各记一笔,别打总分,分开记更有信息量
- 写结论整理成一页纸,标清哪类任务用谁,以及主选不可用时回退到谁
这套流程不适用的情况也有:如果你的任务对准确性要求极高,比如涉及金额计算或合规判断,小样本对照只能筛掉明显不合适的,不能当成验收。这种场景要单独设计人工复核环节,模型只做初稿。
跑完那一页纸别丢。后面价格调整、模型下线、需求变化,都拿它当回退依据,比重新翻一遍名单快得多。说到底,问题是「这活该交给谁」,名单只是这个问题的副产品。
下一步想直接看当前在架的模型和原厂价格口径,去 /models 和 /official-api 对照;想先估算自己这笔账,去 /tools/model-cost-calculator 填一遍真实用量。→常见问题
ChatGPT的替代模型是不是就是国产大模型?
不是一回事。替代范围包括其他闭源商用模型、开源可自部署模型、多模态和垂类模型。国产只是其中一类来源,选不选它取决于你的任务是否需要中文场景、是否能上外网、数据能不能出内网。
榜单上排前面的模型,直接换过来行不行?
可以先当候选,但别当结论。榜单题目和你手上的活不是一回事,尤其是长文档、代码库、表格这几类任务。建议用你自己的十来条请求跑对照,输出能不能直接用比名次更能说明问题。
什么时候不该换模型?
现在这套链路已经稳定、团队工具和提示词都围着它建好了,换过去省下的钱还不够填迁移和重新验证的时间,就先别动。只在明显卡住的地方,比如长文本截断、任务跑不动,才值得试。