很多人卡在同一个地方:明明把提示词改了好几版,模型还是答偏。这时候未必是措辞问题,而是你喂给它的材料本身就不对。这篇不堆概念,只做一件事——把「提示词工程」和「上下文工程」各自的关注点摆在一起对照,再给一个判断顺序:遇到效果不好,先查哪边、改哪边、什么时候两件都要做。
很多人卡在同一个地方:提示词改了好几版,模型还是答偏。这时候不一定是措辞问题,而是你喂给它的材料本身就不对。提示词工程管的是「怎么说」,上下文工程管的是「给它看什么」,两件事的边界听起来清楚,实操里却总是混在一起,所以你越调越乱。
这篇不堆概念,只做一件事——把这两边的关注点摆在一起对照,再给一个判断顺序:效果不好时先查哪边、改哪边、什么时候两件都得动。另外说清什么情况下不用折腾这些,直接换模型或者拆任务更快。
先分清这两件事各管什么
| 对比项 | 提示词工程 | 上下文工程 |
|---|---|---|
| 核心问题 | 怎么说 | 给它看什么 |
| 典型动作 | 改措辞、设角色、限格式、给示例 | 选材料、做裁剪、排顺序、加标注 |
| 出问题时表现 | 格式乱、语气不对、跑偏 | 答得笼统、没用上给的材料、长对话忘事 |
| 失效场景 | 任务本身超出模型能力上限 | 材料本身缺失或本身是错的 |
- 提示词工程管的是「怎么说」:指令措辞、角色设定、输出格式约束、示例给不给、要求按什么顺序排;
- 上下文工程管的是「给它看什么」:塞进窗口的材料范围、检索回来的片段、历史对话留多少、工具返回结果怎么裁剪;
- 两者的边界是:一句话的事归提示词,一堆材料的事归上下文,但现实中大多数效果问题两边都沾;
- 不适用的情况:任务本身超出模型能力上限时,两边怎么调都没用,该换模型或拆任务。
按症状判断该改哪边
别凭感觉决定改哪里,按现象对号入座更快。下面这几类症状基本能覆盖日常八成的坑,顺序是从最好改的开始查。
- 输出跑偏、格式乱、语气不对先动提示词,别急着加材料。把格式要求、长度、给谁看写进指令,再看一遍结果有没有变;没变再往下走。
- 答得笼统、答非所问、给了资料却没用上先查上下文,看材料有没有真的进窗口。让模型复述「你看到了哪些材料」,复述不出来就是没喂进去。
- 长对话越聊越糊涂属于上下文管理问题,重写提示词救不了。要么裁剪历史,要么把关键结论单独拎出来放到后面。
- 同一个提示词换个场景就失效说明缺的是上下文约束,不是措辞不够狠。给不同场景配不同的材料清单,而不是写一个万能提示词。
上下文工程的几个具体动作
上下文工程听起来虚,落到动作上就四件事:做减法、做排序、做标注、做校验。每件都能当场验证,不需要什么工具。
- 做减法
- 窗口里只留跟当前问题直接相关的片段,无关历史该丢就丢,别舍不得;材料越多干扰越大。
- 做排序
- 把最关键的材料放在开头或结尾,中间位置容易被忽略;这不是玄学,是长输入里的普遍现象。
- 做标注
- 给每段材料加一句来源或用途说明,模型才知道拿它干什么;不标用途,它就当成背景噪音。
- 做校验
- 改完先问一句「你看到了哪些材料」,确认它真的读到了,再去看答案对不对;上下文长度怎么估,去 /tools 换算。
这四步做完,你会明显感觉到回答的稳定性在变,而不只是某一两次碰巧答对。如果还是不稳,那就不是上下文的问题了,回头查任务本身是不是被拆得不对。
从提示词思维升级到上下文思维
升级不是把原来的提示词全推翻,而是把它从「一次性手写」变成「模板 + 材料清单」的组合,并且两样一起迭代。
- 第一步:把常用提示词固定成模板,模板里预留「材料区」和「任务区」,别再每次都从零写;
- 第二步:给模板配一份「该喂什么料」的清单,写清什么任务该带哪些资料、带多少、按什么顺序放;
- 第三步:把这两样当成一套一起迭代,改措辞的同时检查材料有没有换,单独调一边很难看出效果;
- 注意:小任务不需要这套流程,一句话能问清的事直接问,别为了工程而工程。
这套做法在多人协作里尤其值钱:模板和清单可以共享,新人接手不用猜你当初是怎么想的。单人用也能省掉重复思考的时间。
上手前的对照清单
动手之前过一遍下面五条,能省掉大部分来回试错。这不是流程打卡,是让你少改几轮。
- 这次任务的输入材料从哪来、准不准、够不够;
- 窗口里现在实际装了什么,有没有塞了用不上的东西;
- 提示词里有没有说清要什么格式、多长、给谁看;
- 换一次材料或换一次措辞,分别单独试,才知道是哪边起的作用;
- 效果稳定后把这一组(提示词 + 材料清单)存下来复用,下次别重新发明。
最后提醒一句:判断标准会随模型迭代变。同一个提示词在 A 模型上好用、在 B 模型上未必,具体能力差异去 /rankings 核对当时的数字,别拿旧印象下结论。想找现成的模板和工具去 /tools 翻,那里有可以直接抄的结构。
下一步把你手头最常出问题的那条提示词拎出来,对照上面的清单走一遍,再把它存成模板加材料清单;顺手去 /tools 看看别人是怎么组织材料区的。→常见问题
提示词工程是不是已经过时了?
没过时,只是不够用。短任务、单轮问答仍然是提示词说了算。当任务需要读一堆资料、聊很多轮、调工具时,材料怎么组织的影响会盖过措辞,这时才需要上下文工程补位。两者是叠加关系,不是替代关系。
我该先学哪个?
先把提示词写清楚再谈上下文。指令都说不明白的时候加再多材料也是乱的。反过来,如果你已经把要求写得很细、材料也给了,模型还是答不到点上,那就别再抠措辞了,去查上下文那一侧。
怎么判断是提示词的锅还是上下文的锅?
做个单变量对照:提示词不动,只换材料,看结果变不变;再把材料固定,只改措辞,看结果变不变。哪边动一下结果明显变好,问题就在哪边。两边都不动结果就变,那是模型本身不稳定,换个思路。