提示词和上下文哪个好?先看你这次要的是改口还是喂料

入门与上手

把提示词和上下文的差别落到动作上:什么时候该改提示词、什么时候该补上下文,给一套判断顺序和自查清单。

搜「提示词和上下文哪个好」的人,多半是同一个场景:模型答得不对,改提示词改了好几轮没起色,或者文件越塞越多反而更乱。这篇不比较谁更重要,只讲怎么判断当前该动哪一边。先给判断顺序,再拆几个常见的误判,最后给一份可照着走的自查清单。

先给结论:这不是二选一

这问题问得像在挑对象,其实两者压根不是同一个岗位。提示词管的是「这次要你怎么做」,语气、格式、字数、别说什么,都归它;上下文管的是「依据什么做」,资料、前文、表格、代码库,归它。一个在下指令,一个在递材料。

所以别纠结哪个好。先看这次是哪儿不对:答得跑偏、格式乱、口吻不对,去改提示词;答案没依据、认错人、忘了前面说过的话,去补上下文。改错边,越改越乱。

现象先动哪边具体动作
格式不对、语气跑偏、字数失控提示词把「给谁看、要多长、不能出现什么」写进开头
答案空泛、缺依据、引错对象上下文补上原始资料、前文摘要或字段说明
同一段要求每次都复制一遍上下文把它从提示词挪成固定背景材料
只用一次的特殊要求提示词留在这次对话里,别塞进长期上下文
  • 先判断错在哪一层,别两边一起改,否则不知道是哪边起的作用。
  • 提示词改完还不对,才去怀疑上下文缺料。
  • 上下文补完还跑偏,回头检查提示词有没有说清输出形态。
  • 要求只出现一次,就别往上下文里搬,搬进去只会变噪音。

有个常见误判:把所有材料一股脑塞进上下文,以为料多就准。实际用下来,塞得太杂反而让模型抓不住重点,回答更长更虚。上下文不是越多越好,是越相关越好。反过来,提示词写得再细,也补不上「它根本不知道你在说哪份文档」这个坑。

按症状分:五种表现各归哪一边

别急着判断谁更重要。先看你这轮输出到底哪儿不对。下面五种毛病,基本能对上号。对上了再动手,比一上来就狂改提示词或者猛塞资料省事得多。

你看到的现象大概率归哪边先动哪里
该分点却写成一大段,结构乱提示词补格式约束:几段、几列、要不要小标题
答案空泛,全是通用常识上下文把这次要用的资料放进同一轮请求
前面定好的设定被推翻上下文查是否被截断,或没在同一轮里带上
同一段背景每次复制粘贴上下文固化成系统提示或固定前缀
改了提示词毫无变化先查上下文确认请求里到底带没带上那段资料

第一种最好认。你说「列几点」,它给你一大坨。这不怪模型笨,是你没把格式说死。把「几条、每条多长、要不要编号、能不能出现客套话」写进要求里,再试一次。这里有个前提:格式约束对开放式创作会显得生硬,写文案、写故事时别卡太死,不然文字会干巴。

第二种也常见。你问的明明是自家产品的退换规则,它回一堆行业通识。这说明它手里没有你的料,只能拿训练时的底子凑。这时候提示词怎么写都救不回来,得把相关文档、条款原文塞进请求。塞多少合适、塞哪几段,去 上下文窗口指南(/guides/context-window) 对照着看,别一股脑全丢进去。

第三种最气人:前面说好「用中文、别用敬语」,聊了十几轮它又开始客气。多半是早期那几条被挤出窗口,或者你每次请求只发了最新一句,历史没带上。先确认你的请求结构——是单轮拼接还是多轮对话接口。这个搞错了,提示词写得再狠也白搭。

第四种属于浪费。同一段公司介绍、同一套术语表,每次对话开头都手动粘一遍。粘多了容易漏、容易改错版本。该做的是把它提成系统提示或者固定的前缀块,一次配好,后续每轮自动带上。改的时候也只改一处,不用满世界找副本。

第五种是排查顺序问题。你改了提示词,输出纹丝不动,第一反应往往是「提示词没用」。先别下结论。去请求日志里看一眼,那段上下文到底进没进去。很多时候是拼接逻辑写错了、变量是空的、或者那段被长度限制截掉了。确认带上了,再回头谈提示词。

五种现象对完,你会发现大部分「提示词不好使」的锅,其实落在上下文没到位上。反过来,上下文给足了但输出还是散,那才是提示词该补格式的时候。两条路别混着走。

动手顺序:先看请求里到底有什么

先别急着讨论写法。你要改的是提示词还是上下文,得先知道这次请求里实际装了什么。很多人调了半天提示词,回头一看上下文压根没拼进去——拼接函数里那个字段拼错了,或者模板里放错了占位符。这种错,光想是想不出来的,得把东西打出来看。

  1. 打印完整请求在你的调用代码里,把最终发给模型的那一整段内容原样输出,别只打印你写的那段提示词。人眼扫一遍:系统提示在不在、历史消息顺序对不对、检索到的资料贴上了没有。确认不了就是没接上。
  2. 一次只动一个变量提示词和上下文同时改,跑出来变好了你也不知道是谁的功劳,变差更查不出来。这轮只改上下文(比如多塞两条资料),提示词一个字别碰;下一轮反过来。每次记下改了什么、输出差在哪。
  3. 核对窗口装不装得下把整段内容按模型的分词方式估一下长度,跟上下文窗口对比。超出的部分会被截掉,而且很多接口是静默截断,不报错。你以为模型没看懂,其实是那半截根本没送到。
  4. 最后才动写法和参数前三步都确认没问题,再去换措辞、加示例、调温度这类。顺序反了,你会拿提示词去修一个其实是上下文没拼上的问题。
现象先查哪一步常见原因
模型答非所问第一步资料没拼进去,或拼在了系统提示之后
改提示词没反应第二步上一轮同时改了上下文,效果被抵消
长文档后半段被忽略第三步超出窗口被截断,且没报错
同样输入时好时坏第二步参数或上下文顺序在变,不是提示词的问题

这套顺序的意思很朴素:先确认输入没丢,再确认改动可归因,最后才谈优化。它也有不适用的时候——如果你是在做产品级的批量调用,单次打印不够,得把整条链路的日志留下来,抽查几条完整的请求。另外,窗口够不够这件事,不同模型的计费方式和截断策略不一样,具体数值到站内模型资料库核对当时的说明,别凭印象。

下一步模型资料库里能查各家窗口大小和计费口径,对照你手上的请求长度,才知道有没有被悄悄截掉

几个把人带偏的误判

这几个坑都不大,但踩上去以后,你会得出一个完全错误的结论:以为提示词没用,或者上下文白喂了。实际原因往往只是东西放错了位置、只跑了一遍就下判断。

  • 提示词写成了长篇小说:把背景、规则、禁止项、示例全堆在一起,中间那段最关键的限制被稀释,模型回回都漏
  • 长文档整篇剪贴进去当上下文:文档是进去了,但没说清「参考第几节」「只看含某个词的段落」,模型只能自己猜,猜偏了你怪它没读
  • 格式要求和资料位置对调:把「输出成三列表格」塞进上下文,把原始资料写进提示词尾部,结果格式时有时无
  • 只改一次就下结论:改完提示词跑一遍觉得变好了,或者跑一遍觉得更差,其实单次输出本来就有波动
常见做法实际发生了什么改成什么样
提示词开头写背景,中间夹关键约束,结尾写格式中间那条约束最容易被忽略硬约束放开头一句、结尾再点一次
整篇文档贴进上下文,不提重点模型按自己的理解抓取,抓偏概率不低指明看哪几节,或先摘出相关段落
格式要求写在上下文里,资料写在提示词里格式遵循不稳定,资料也没被认真用格式进提示词,资料进上下文
改一版只跑一次分不清是改动有效还是运气好同一版多跑几次看趋势再下结论

位置这事儿说白了就是:提示词是「你要它怎么做」,上下文是「它该拿什么做」。格式、口吻、长度、禁止项,这些属于指令,写在提示词里;原始文档、聊天记录、数据表,这些属于素材,放上下文里。放反了不是完全不能用,是效果掉一截,而且很难查原因。

  1. 先把硬约束拎出来通读你的提示词,找出「必须」「不能」「固定输出成」这类句子,单独列成一张小清单。
  2. 首尾各放一次开头用一句话写清最终目标,结尾把硬约束再重复一遍。中间留给背景和示例,别把关键限制埋在中间。
  3. 给上下文加定位句在贴文档之前先写一句「以下内容里,重点看关于某主题的段落」,或者干脆只贴相关那几段,别整篇扔进去。
  4. 格式要求搬回提示词把输出结构、字段名、示例格式从上下文里挪到提示词,上下文只留原始素材。
  5. 同一版多跑几次每次改动跑三到五遍,看是稳定变好还是偶发变好。单次结果说明不了问题,趋势才算数。

什么情况下这套判断不适用

前面那套「要改口就调提示词、要喂料就补上下文」的判断,管的是有明确交付标准的活儿。碰上纯发散场景就不太灵了。比如让模型先甩二十个产品名、想几个活动脑洞、随口聊聊某个概念。这时候你越死磕格式和依据,越容易把思路框死。先把量铺开,再回头挑,比一开始就规定「必须输出表格、必须引用三条资料」有用得多。

还有一种更常见的误判:把模型能力问题当成文案问题。同样的提示词,换个模型出来还是答非所问、漏条件、算不对,那基本不是措辞的事。我见过有人对着一个参数反复改措辞改到第七版,其实那个模型压根不擅长这类任务。判断方法很土:把提示词原样搬到另一个模型上跑一遍,如果那边明显更顺,问题就在选型,不在字句。

  • 纯创意发散、只要数量不要规范——别急着套结构,先放开写,事后再筛
  • 换两个模型跑同一段提示词,结果都一样差——大概率是模型能力不够,该换模型
  • 报错、超时、返回空、突然限流——先查接口和账号状态,文案一个字都不用动
  • 任务本身没有对错标准,比如起名、写标语——判断标准得你自己定,别指望提示词替你定
现象先怀疑哪里怎么验证
回答跑偏、漏条件,换模型依旧模型选型同一段提示词换个模型重跑,对比差异
请求直接失败、长时间无响应接口链路看报错码、请求耗时、账号额度和限流状态
内容空泛、没新意任务设定去掉格式约束,先要量再挑
格式总是不对、字段缺提示词结构把输出样例和字段清单写进提示词

接口这层最容易冤枉文案。报错和超时的时候,提示词写得再漂亮也没用,因为请求根本没走到模型那儿。正确顺序是先看返回状态和错误信息,再看请求发出去到回来用了多久,最后才怀疑内容。链路排查完了还有问题,再回来改提示词也不迟。想对照各家接口的现状,可以去 站内 API 资料页(/api) 看当时的记录,别拿旧印象判断。

常见问题

提示词和上下文能不能只用一个?

能,但会难受。只用提示词,每次都把资料重打一遍,长文档很快就撑爆窗口;只用上下文,模型不知道要按什么格式和语气交付。日常做法是固定部分沉到上下文,每次变化的要求写在提示词里。

为什么我把整篇文档贴进去,回答还是不对?

多半是没指明依据哪一段。整篇材料对模型来说是一团信息,你得说清楚「按第几节回答」「只引用原文不要扩写」。另外确认内容确实在同一轮请求里,拼接丢内容很常见。

提示词改了很多版都没起色,还要继续改吗?

先停下来看请求本身。把实际发出去的内容打出来,确认上下文在不在、有没有被截断、格式要求有没有被后面的内容盖掉。这几项没排掉,改提示词等于盲调。

上下文越长越好吗?

不是。内容越多,模型挑重点的难度越大,加上窗口有限,超出的部分会被处理掉。给最小必要的那几段,再明确指向,通常比堆一整篇更稳。具体窗口大小到 /ai-dict/category/basics 对照当时的说明。

怎么判断是提示词问题还是模型问题?

同一段提示词和上下文,换一个同类模型跑,如果结果一样差,问题在输入侧;如果换完明显好转,才考虑是模型适配问题。换模型前先做这一步,能省不少钱。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。