提示词和上下文哪个好,第一次调 prompt 最容易把这两笔账算混

入门与上手

把提示词和上下文分开看:哪些问题该改写指令、哪些该补资料,给出判断顺序、自查清单和常见误判的排查步骤。

很多人第一次调模型,看到答不对就回头改提示词,改到第十版还是那样;也有人一路往对话里塞资料,塞到自己都不知道哪句在起作用。这篇不争论哪个更重要,只解决一件事:手上这个具体毛病,该动提示词还是该动上下文,怎么判断、按什么顺序试。

很多人第一次调模型,看到答得不对就回头改提示词,改到第十版还是那个味儿。也有人反过来,一路往对话里塞资料,塞到后来自己都说不清哪一句在起作用。这两种做法问题一样:把提示词和上下文当成一回事了。

这篇不争哪个更重要。只解决一件具体的事:你手上这个毛病,到底该动提示词,还是该动上下文。判断标准、试的顺序、怎么记,下面一条条说。

这两个词老被混着说,实际改的不是同一处东西

提示词是你这一次交代的指令和格式要求,写在请求里,改一版就换一版。上下文是模型这一次能看到的全部内容,包括系统设定、前几轮对话、你贴进去的资料。一个是「你让它干什么」,一个是「它手里有什么料」,压根不是同一样东西。

混着改的麻烦在于,你分不清是哪一处起了作用。这一版答案变好了,可能只是你把资料删掉了一段,跟提示词改没改关系不大。下次遇到同类问题,你还是不知道从哪下手,只能再瞎试一轮。

提示词
这一次交代的指令、角色、格式和边界要求,你写什么它读什么
上下文
模型这次能看到的全部输入,含系统设定、历史对话和你贴的文档
两者关系
提示词本身也属于上下文的一部分,但调的时候要分开算账

先看现象:三种毛病对应三种改法

不用一上来就想理论。先看输出错在哪,现象基本能指路。答非所问、格式不对、语气跑偏,这类多半是指令没交代清楚。答得挺顺,但一落到你公司的口径、产品细节、内部叫法就空,那是资料没进上下文。还有一种,前半段还记得你定的规矩,后半段开始自顾自说,通常是上下文被挤掉了,跟你提示词写得好不好关系不大。

你看到的现象先动哪边具体动作
格式乱、语气不对、答非所问提示词把输出形态、读者、禁忌写进开头
答案通顺但空,缺业务细节上下文贴相关段落,先贴一两段试
开头守规矩,后面开始跑偏上下文删无关内容,或拆成多轮来问
换了三种写法还是答不到点上先别改检查问题本身有没有说清

这张表不是铁律。有些毛病是两边一起犯的,比如格式不对又缺细节,那就按下面说的顺序,一次只动一处。

我建议的试法顺序:一次只动一个变量

同时改提示词又加资料,改完效果好你也不知道是哪一步起的作用。所以有先后:先把指令写稳,再考虑补料。

  1. 把要求写成能验收的样子给谁看、多长、用什么形态、不能出现什么。写不出验收标准,说明你自己还没想清楚。
  2. 跑一次,只记差在哪输出拿到手,别急着改,先写下这一版跟你要的差在哪一格:是结构、是内容、还是语气。
  3. 指令稳定了再补资料格式和口径都对了、只是缺信息,这时候再贴文档。先贴一两段关键的,别一上来整份甩进去。
  4. 每改一处留一句备注不然三轮之后自己都忘了哪版好、为什么好,回头只能从头再试一遍。

上下文不是免费的,塞得越多越容易互相打架

贴进去的每一段都占额度,长对话的成本会一路往上走。具体单价别凭印象,到 /official-api 核对当时的数字。钱是一方面,更要命的是前后资料互相矛盾时,模型不一定挑对的那条,它可能拿后面那段把前面那段盖掉。

所以补料之前先做减法。把不相关的段落去掉,把重复的说法合并,往往比再加一段提示更有效。真需要带一大堆资料,就考虑拆成多轮,或者只把相关片段取出来喂进去,别整本扔。

上下文长度到底怎么算、不同模型口径差多少,这些细节去 /ai-dict/category/basics 查,别靠感觉估。估错的直接后果就是你以为是提示词的问题,其实是料太多把关键约束挤没了。

提示词这边,自查这几条就够开工

提示词写不好,多半不是词穷,是没交代清楚「给谁看、要多长、不能出现什么」。把这几件事写进开头,效果立刻不一样。下面几条照着过一遍,缺哪条补哪条。

  • 输出形态说清楚:列表、表格还是一段话,别让模型猜
  • 给边界:不许编来源,不确定就说不知道,比让它硬答强
  • 给一个正例或反例,光说「专业一点」它不知道你要哪种专业
  • 约束放前面,越靠后越容易被后面的内容冲淡
  • 换个同事来读,他能不能照这段话做出同样的东西,不能就再改

这几条不适用于一种情况:你要的就是发散创意,那约束太死反而捆住手脚。那种场景下,把边界放宽,只留大方向就行。

上下文这边,先分清是缺料还是超载

缺料和超载的表现很像,都是答案不对劲,但处理方向相反。分不清就白忙。缺料是答案通顺但空,你换成自己的业务细节它马上答不上来。超载是开头说过的约束,聊到后面开始违反,或者前后自相矛盾。

处理顺序:先删无关内容,再拆成多轮,最后才考虑换检索、只取片段。别一遇到答不全就加长,加长经常是把问题往后推。

上下文出问题,先做减法,做不动了再加。加料是最后一步,不是第一步。

这几种情况,改哪边都没用

有些毛病不是提示词和上下文能救的,早点认出来能省不少时间。

  • 问题本身有歧义,你自己都没想清楚要什么,先想清楚再写
  • 模型能力不够,比如要它做精确计算,换写法也救不回来,得换工具或换路子
  • 要的是实时信息,模型训练时没有这部分,得靠外部数据接进来,光改提示没用
  • 输入本身是脏的,格式乱、字段缺,先清洗数据再谈调优

分不清属于哪一种时,做个对照:同一段提示换个人来读,如果他也答不上你要什么,那是你的问题;如果他答得上来模型答不上,再往模型能力和上下文上找。

第一周可以这么练,别贪多

光看标准不动手,判断力练不出来。挑一个你天天做的活,固定同一个输入,连续跑几天,每天只改一处。第一天改格式要求,第二天改角色设定,第三天补资料。第五天把几版输出摆一起看,能一眼说出哪版最好、为什么,说明你摸到判断标准了。

别一开始就上复杂任务。任务越复杂,变量越多,你越分不清是哪一处起的作用。简单任务练熟判断顺序,再往难的上搬。好用的那版存成模板,下次直接套,也算给自己攒点底子。

下一步想看看不同模型的上下文口径和官方价格,去站内资料库对照一遍,再动手调就不容易算混账。

常见问题

提示词写得好,是不是就不用管上下文了?

不行。提示词管的是「怎么答」,上下文管的是「拿什么答」。指令再清楚,资料没给到,模型只能靠猜,猜出来的东西看着通顺但用不了。

上下文塞得越多,回答是不是越准?

不一定。塞进去的内容互相矛盾或者大部分不相关时,反而更容易跑偏,成本也跟着涨。先删再补,比一路加料稳。

同一个提示词,换个模型效果差很多,是提示词的问题吗?

先别急着改提示词。不同模型对格式和长度的敏感度不一样,先用同样的输入在两个模型上各跑一次,确认差异出在模型还是出在你的写法上。

对话聊到一半开始忘事,是该改提示词吗?

多半不是。这是上下文被挤掉了,处理办法是把关键约束重新提一遍,或者把长对话拆开重开一轮,具体口径去站内基础概念页对一下。

怎么知道自己改的那一处到底有没有起作用?

一次只改一处,其余保持不变,跑完把输出并排放。两处一起改,效果好也不知道是谁的功劳,效果差也找不到原因。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。