大模型是什么

入门与上手

面向零基础读者讲清大模型是什么:它擅长什么、不擅长什么、第一次用该看哪几个指标来判断够不够用。

很多人第一次接触大模型,是被一句「它好像什么都会」带进来的,用两天又觉得「它怎么老胡说」。这篇不堆术语,就回答两件事:大模型本质上是个什么东西,以及它的能力边界画在哪。看完你能自己判断一个任务该不该交给它,也能知道去哪查当时的模型和价格数字。

很多人第一次用大模型,是被一句「它好像什么都会」带进来的,用了两天又开始怀疑人生:明明刚才还答得挺好,换个问法就开始一本正经地胡说。这其实不是它时好时坏,而是你还没摸清它到底是个什么东西、边界画在哪。

这篇不堆术语,就回答两件事:大模型本质上在干什么,以及哪些活可以放心交给它、哪些活必须自己兜底。看完你至少能做到两件事:自己判断一个任务该不该丢给它,以及知道该去站内哪个页面查当时真实的模型和价格数字,而不是记住别人截图里的结论。

先用一句话说清:它到底在干什么

大模型的核心动作只有一个:接着往下写。你给它一段内容,它根据这段内容预测下一个词应该是什么,写完再把这个词接到后面,继续预测下一个。它不是在数据库里查答案,也不是在脑子里做精确计算,而是在做「最像样的下一句是什么」这件事。

那它为什么读起来像懂你?因为它读过大量人类写的东西,见过足够多的说法和套路。你问「帮我写个请假理由」,它见过成千上万条类似表达,知道这种场合通常怎么开口、怎么收尾,所以拼出来的东西看着很合理。

没有记忆
这次对话里它记得,换个会话就归零,别指望它记住你上周说过什么
没有实时信息
它的知识停在训练那一刻,今天发生的事它不知道,除非你给它接上联网或把资料贴进去
没有是非观
它不判断对错,只判断「像不像话」,所以错的东西也能写得跟真的一样

这三条记住了,后面所有边界其实都是它们的推论。遇到不认识的词,比如 token、上下文窗口、温度,先去 /ai-dict 查一句话解释,比在群里零散问快得多。

「大」指的是什么,大在哪

「大」不是形容词,是三个可以拆开看的东西。搞清这三层,你就能理解为什么它有时候很强、有时候又很笨,以及为什么按量用要花钱。

大的那一层通俗理解对使用者的实际影响
参数规模模型内部可调的旋钮数量,旋钮越多能装下的语言规律越复杂一般能力上限更高,但不等于在你的具体任务上更好
训练数据量读过的文字多、覆盖面广,冷门领域也沾过边常见话题答得顺,特别偏的领域容易露馅
算力消耗训练和每次回答背后都在跑大量计算按量计费有成本,长输入、长输出更贵

参数单位怎么读、多少算多,可以顺手看一下站内「模型参数是什么意思」一篇,那里讲得比这里细。重点提醒一句不适用的情况:参数大不等于在你的任务上更强,小模型在固定格式、固定流程的活上常常更稳、更便宜,只需要到 /models 看当时各家列的规格对一下就行。

  • 先明确你的任务类型:开放式创作偏向大模型,固定格式抽取偏向小模型
  • 再看输入长度:要一次塞进很长文档的,先确认上下文够不够
  • 最后看稳定性要求:要求每次输出一致的活,别只看参数大小
  • 拿不准就各试一次,用真实任务比,不用看别人总结的结论

从你打字到它回话,中间发生了什么

你按下发送之后,发生的事情大致是这样:你的问题先被切成一个个 token(词片段),模型根据这些 token 一次性算出下一个 token,再把它接回去算下一个,如此循环,直到它判断该停了。所以它是边写边想,开头写歪了,后面会被带着一路歪下去。

这就解释了一个很实用的现象:让它先列提纲、再逐段展开,结果通常比让它一口气写完更稳。因为提纲相当于把方向先固定住,后面每一段都是在提纲的约束下往前写。

  1. 第一步:先给方向让它先输出三到五条提纲,你扫一眼确认方向对不对,不对就当场改
  2. 第二步:再让它展开提纲确认后逐段生成,每段生成完你看一遍,不要等全写完再回头改
  3. 第三步:最后再校对重点看数字、日期、专有名词,这几类最容易顺嘴编

另一个关键词是上下文窗口,它决定模型一次能看多少内容,超出部分等于没看见。具体长度分档和各家规格去 /ai-dict/category/basics 对照当时的说明,别记死某个数字。不适用的情况也要说清楚:需要严格计算、需要核对最新事实、需要每次输出完全一致的任务,这套机制本身就不保证结果。

哪些活交给它,大概率不亏

判断一个任务适不适合,最简单的标准是:这件事的正确答案不唯一,或者错了你能一眼看出来。满足这两条之一,交出去通常不亏。

任务类型具体例子为什么适合
文字改写压缩、扩写、换语气、翻译、起标题语言类的事正是它训练的主场
信息归类把散乱笔记整理成表格、从长文档抽字段照着格式填比自由发挥可靠得多
代码辅助写片段、解释报错、补测试能给出可运行的初稿,但必须自己跑一遍
初稿生产邮件、周报、方案框架你只需要改,比从零写起省事
  • 先挑一件你每天都要重复做的文字活,比如整理会议记录
  • 让它做初稿,你只做修改,不要指望一步到位
  • 一周后回看:修改量大不大、有没有出现过明显错误
  • 修改量越来越小,就可以考虑扩到别的场景;一直很大,就换任务或换模型

哪些活别交给它,或者要加人手

反过来,判断一个任务该不该交出去,也有个简单标准:这件事有唯一正确答案,而且错了要担责。这类活要么不交,要么交出去之后必须加一道人工核对。

  • 算账、算日期、算排期:让它给公式和思路,数字你自己算或者用工具算,它算错时通常毫无察觉
  • 要最新信息:模型知识停在训练那一刻,问今天的事必须接联网或检索,否则它会顺着你的语气编一个像样的答案
  • 要唯一正确答案:同一个问题问两次结果不同是常态,流程里不能有「它说什么就是什么」的环节
  • 涉及钱、法、医、人事的决定:它可以帮你整理材料、列出可能性,但结论必须由有资质的人签字

有一种情况经常被忽略:任务本身没问题,但错误代价太高。比如给客户发报价、给员工发通知,这类事哪怕它只错一次,后果也不划算,所以流程里一定要留一道人看。

三个最容易被忽略的边界

前面讲的都是「能不能用」,这里讲三个「用着用着会踩到」的坑。它们的共同点是:不是模型坏了,而是它的工作机制本来就这样。

幻觉:它在补最像样的话,不是在骗你

越冷门、越具体的问题,它越容易编,因为它没有依据可参考,只能按语言习惯补一个听起来合理的答案。缓解办法和适用条件可以看站内「大模型幻觉怎么解决」一篇,核心思路是给它资料、让它基于资料回答,而不是凭印象答。

上下文限制:聊久了它会忘事

对话变长之后,早期内容会被挤出窗口,表现就是它突然不记得你前面说过什么。这不是坏了,是看不见了。长任务建议分段处理,或者把关键信息每次重新贴一遍。

输出不稳定:同一个问题十次十个答案

用提示词约束格式能改善,但不能保证完全复现。所以做评测类、对比类的工作时,要写成对照表记录多次结果,而不是只记一次。站内 /tools/speed-test 这类工具适合拿来做重复测试。

新手第一周的实际动作清单

如果你不想看太多概念,就想先上手感受一下,可以按下面这个节奏走一周。目的不是学会所有功能,而是建立对它的直觉:哪些地方靠得住,哪些地方必须自己兜底。

  1. 第 1 天:拿真实任务试一次挑一件你手头正在做的文字活,让它出初稿,感受一下「像人但不完全是人」的地方在哪里
  2. 第 2-3 天:固定一个问题反复问同一个问题问十遍,观察哪些部分每次都一样、哪些部分每次都不一样,把不稳定的地方记下来
  3. 第 4-5 天:写一版固定模板模板分三块:角色(你是谁)、输入(给你什么)、输出格式(要什么样子),对比不写模板的效果
  4. 第 6-7 天:决定要不要深入如果这周确实省了事,再去看站内「第一周该干什么」的路线,按需查模型和价格;没省事就先停在这里

想继续往下走,先分清「概念」和「数字」

零基础最容易犯的错,是把概念问题和数字问题混在一起问,结果越问越乱。其实这两类信息的查法完全不同:概念类的看一次就够了,数字类的必须看当时的。

你想知道什么去哪看为什么
token、上下文、温度、参数这些词什么意思/ai-dict/category/basics概念不常变,一次扫完,别零散问
某家模型能力、版本、规模怎么样/models 和 /rankings这类信息随时会变,看当时的对比,别记死结论
用一次大概花多少、买套餐划不划算/official-api 与 /plans价格和额度以页面当天显示的为准,别抄别人截图
哪个模型适合入门站内「新手用哪个大模型入门比较好」给了筛选顺序,照着走比自己瞎试快

选模型拿不定主意时,有个三问筛选法:要不要长上下文、要不要便宜、要不要能看图。三个问题里你先回答最硬的那一个,剩下的到 /models 按条件筛,筛出来两三个再用真实任务各试一次。

下一步先想一个你手头正在做的真实任务,带着它去 /rankings 看当时的模型对比,再用 /tools/speed-test 试一次,比继续看概念有用得多。

常见问题

大模型和搜索引擎有什么区别?

搜索引擎是把已有的网页找出来给你,你自己读;大模型是把读过的内容重新组织成一段话给你。所以它更省事但可能编,要出处就选带来源引用的那类工具。

它真的「理解」我在说什么吗?

更准确的说法是它极擅长预测你会接受的下文。日常对话里这个差别感觉不到,但在需要严格逻辑或事实核对的任务上,差别就会暴露。

为什么同一个问题答案每次都不一样?

生成时带有随机性,它不是查表而是按概率挑词。需要稳定输出时要用固定模板约束格式,并在流程里加人工或程序校验。

我需要懂技术才能用吗?

不需要。不做开发的人只要搞清三件事:它能做什么、它会在哪里编、什么问题该怎么问,剩下的交给产品界面就行。

现在最好的大模型是哪个?

这个问题没有长期答案,排名和版本按周变。去站内 /rankings 和 /models 看当时的对比口径,再结合你的任务挑,别照着旧结论下单。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。