大模型 large language model

模型与算力

给零基础读者讲清大语言模型是什么、能干什么、在哪会翻车,并给出判断能力边界的三步自查方法。

刚开始接触 AI 的人常卡在同一处:别人说「大模型」你点头,真要自己用又不知道它能做到哪一步、什么时候会胡说。这篇不谈跑分和版本号,只讲它本质在做什么、能力边界画在哪,再给你一套拿到任务就能判断「该不该交给它」的自查顺序,配上一份常见任务对照表。

刚接触 AI 的人容易卡在一个地方:听别人说「大模型」能写方案、能改代码、能当顾问,自己上手却发现它有时答得很靠谱,有时又像在胡说。问题不在你笨,而在于没人告诉你它到底怎么工作、边界画在哪。

这篇不聊跑分和版本,只讲一件事:大语言模型本质上是个不停猜下一个词的程序,所以它既擅长模糊的活,也容易在较真的地方翻车。看完你会拿到一套三步自查方法,拿到任务就能判断该不该交给它。

它到底在做什么:一个不停猜下一个词的程序

你可以把它想成一个超级接话机器。你给它一段上文,它会按概率挑出最像的下一小段话,把这个小段拼回去,再继续猜下一段。重复这个动作几百上千次,就生成了一整篇回答。它没有查资料这个动作,说的每句话都来自训练时见过的大量文本。

生成
一个字一个字往外猜,每次只决定下一个最可能的片段
概率
它给每种可能打分,分高的先出,不是先想好再写
上下文
你这次给它的全部文字,它只看得到这些,之前聊的如果没带上就不算
训练
事先把大量文本喂进去调参数,调完就固定了,不会实时更新

正因为是猜概率,它经常看起来像懂了,但那份懂只是语言上的连贯,不是真的理解因果。这个机制既是它好用的原因,也是后面会翻车的根。想补底层名词,可以到基础概念词典对着看 Token 和上下文这两个词。

它擅长的四类活:改写、归纳、转换、陪想

把这四类活拆开看,共同点很清楚:答案不唯一,容错空间大,人扫一眼就能判断好坏。只要是这种性质的活,交给它通常能省不少时间。

  • 改写:把一段口语化的话改成正式邮件,或者把长句拆短,它做得又快又稳
  • 归纳:丢给它一篇长文,让它压成几条要点,你只需要核对有没有漏掉关键信息
  • 转换:把中文转成表格字段、把一段说明转成流程图描述,格式类工作它很顺手
  • 陪想:给方案列几个不同思路、帮你把零散想法串成提纲,当草稿机用很合适

它在哪儿翻车:三种典型失败

翻车不是随机发生,基本集中在三类场景。提前知道这三类,比事后骂它笨有用得多。

失败类型表现应对动作
编事实说得很顺但人名、数字、条款对不上要求它标出依据,关键结论回原文核对
算不准多位数运算、长链条推理中途跑偏算数交给别的工具,它只负责列算式
不知道边界你没给的材料它也可能硬答明确告诉它只能根据你给的材料回答

还有一种更隐蔽的情况:你追问它,它反而更自信,好像越被质疑越确定。这不是它变聪明了,只是它在继续猜下一段最像的话。所以追问不能当验证手段,回原文核对才是。

拿到任务先过三步:能不能交、怎么交、怎么验

  1. 第一步:答错了我会不会发现如果答案错了你一眼看不出来,比如不熟悉的领域、没见过的条文,那就别单独交给它,必须配一个能核对的人或来源。
  2. 第二步:材料在不在我手里它没有查资料的动作,材料不在你手里,它就靠训练时的印象答,准确性没法保证。先把原文贴给它再提问。
  3. 第三步:定验收方式抽样核对、对照原始文件、或者先让它输出提纲你看过再展开。验收方式在提问前就想好,别等生成完再想怎么查。
日常任务建议交法验收方式
润色一段话适合直接交读一遍看语气对不对
整理会议纪要适合先出草稿对照录音或笔记核要点
写合同条款不适合单独交必须找专业人士复核
做数据汇总适合先出草稿抽查几行对原始表格

这张表只是个参照,具体判断还要看你手头材料的完整度和容错空间。想对各家模型在具体任务上的表现有个底,可以到模型资料库看当时的实测记录,再结合自己的验收能力决定交多少。

下一步拿一个你最近想交给 AI 的任务,按三步自查过一遍,再决定交到什么程度。想对比不同模型在同类任务上的表现,可以到模型资料库看当时的记录,心里更有底。

常见问题

大模型是不是什么都懂,只是有时候懒得说全?

不是。它没有「懂」这个状态,只是根据上文猜接下来该出现什么词。答得顺不代表查过资料,答得少也不代表它藏着没说。判断时看它给的东西能不能对上你手里的材料,而不是看语气笃不笃定。

零基础想上手,第一步该做什么?

先挑一件你本来就要做的文字活,比如把一段会议记录压成三条要点,拿它试一次,再自己逐条对原文。这一步能让你直观看到它哪儿帮得上、哪儿在编。概念不清楚的名词,随手到基础概念词典查一下就行,不用先系统学。

它说的东西能直接拿去做决定吗?

不建议。它能帮你把选项列全、把材料整理顺,但涉及事实、数字、责任归属的结论必须回到原始来源核一遍。把它当写初稿和理思路的同事,而不是当出结论的权威,这个定位基本不会错。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。