很多人第一次调格式控制,是把模板整段贴进提示词,结果 JSON 少个括号、字段名自己改了、偶尔夹一句寒暄。问题不在模板写得不够狠,在于没搞懂「格式由哪几层决定」。这篇从原理说起,给你判断该用哪一层的标准,以及排错的先后顺序;至于模型和价格怎么挑,站内另有页面,这里不重复。
很多人第一次碰格式控制,是把一整段模板贴进提示词,觉得自己已经说得很死了。结果跑起来 JSON 少个括号、字段名被悄悄改掉、末尾还夹一句「希望这对你有帮助」。你回头检查模板,确实写得挺严。问题不在狠不狠,在于格式到底由哪几层决定,你没分清。这事儿说破很简单:管结构有一套办法,管语气是另一套,混在一起调,越调越乱。
下面从原理往下讲,重点给你两样东西:判断眼下该动哪一层的标准,以及格式跑了样之后的排查顺序。模型怎么选、哪家便宜,站内另有页面在维护,这篇不掺和。你只需要带着一个具体的任务来读,边看边对照自己的提示词。
先把两个常见误解拆掉
第一个误解是以为格式是「说出来」的。模型逐 token 往下猜,你写的那句「请严格输出 JSON」只是条件之一,它改变的是下一个词的概率分布,不是下达一条命令。它会提高输出对的概率,但不保证。你把提示词写成军令状,它也只是概率高了一点。
第二个误解是语气词能顶结构。实际用下来,「必须」「务必」「严格」这些词对字段类型的约束力,远低于你给一个真实样例,更低于在调用参数里指定返回结构。所以先问自己一句:我想要的到底是结构,还是语气?
- 结构
- 字段有哪些、什么类型、什么顺序、空值怎么填、能不能包代码块
- 语气
- 句子长短、口吻正式还是随意、要不要开场寒暄、要不要结尾总结
这两件事的调法完全不同。结构靠样例和可校验的参数压住,语气靠一两个示范和明确的正负面要求。混着写最容易出的场景是:你为了压结构加了一堆「必须」,结果模型变得很僵硬,语气也跟着死板,两头不讨好。
格式其实被三层东西同时管着
第一层是提示词里的显式约束。字段清单、类型、空值规则、要不要包代码块,都算。这层最灵活,也最软。第二层是历史对话里已经出现过的格式。前面几轮你贴了个表格,后面它大概率照着抄,这个惯性比你想的强。
第三层是你调用时传的结构化参数。现在多数平台支持指定返回类型或者给一个 schema,这是最硬的一层,它直接参与生成过程的约束,不只是「建议」。三层的权重不一样,你只用最软的那层去要求最硬的结果,就是在赌。
| 约束层 | 强度 | 什么时候优先用 |
|---|---|---|
| 调用参数里的返回类型 / schema | 最硬 | 下游要直接解析、入库、传给程序 |
| 提示词或上下文里的正例 | 中等 | 给人看、希望风格稳、字段别乱改 |
| 纯文字描述「请输出…」 | 最软 | 兜底补充说明,别单独指望它 |
还有一种容易被忽略的情况:格式只在某一步要紧,比如整个流程最后一次汇总。那就把约束单独发一次请求,别把它塞进一长串对话里,上下文越长,早期的约束越容易被稀释。
怎么判断该动哪一层
先看下游是谁。如果返回结果要进数据库、渲染成表格、或者传给另一个程序,那结构错一个字段就是故障,这种场景优先上 schema 或者指定返回类型,提示词只做补充说明,把「空值填 null 而不是空字符串」这类细节写进去就行。
如果只是给人看,你希望语气稳、篇幅稳,那调样例和提示词就够,上 schema 是浪费。还有一种折中:内容要自由发挥,但外壳要固定,比如必须包在一个固定字段里返回,那就只锁外壳,正文留白。
- 下游直接解析:先上结构化参数,提示词补边界规则
- 只给人看:写好一个正例,明确篇幅和口吻
- 只有某一步要紧:把这一步拆成独立请求,单独加约束
- 任务本身要自由发挥:别上硬约束,会挤掉内容质量
- 模型需要边想边改结构:把探索和定稿分成两次请求
什么情况下这套判断不适用?任务本身就没有稳定结构,比如让模型先发散列要点、再收敛成表。这种你硬锁 schema,它会把内容削足适履,字段填满了但信息废了。还有一种,你压根不知道最终字段该有哪些,那就先跑几轮看它自然产出什么,再定结构,别一上来就锁死。
样例比形容词管用,但样例要挑对
给样例这件事,多数人做反了:一次塞三四个不同结构的例子,以为覆盖得全。实际模型会挑最像当前问题的那一个抄,抄错了你更难查是哪来的。给一个正例就够,把它写完整,别用省略号。
省略号是个坑。「类似这样…」在模型眼里就是可以自由发挥的位置,它会自己补,补出来的往往不是你想要的。边界情况要明写:字段缺失时填什么、数值是字符串还是数字、中文里要不要带标点、列表为空时给空数组还是 null。
- 先定一页字段表把每个字段、类型、是否可空、空值怎么填写下来,控制在一页内,这是后面所有调试的基准
- 配一个完整正例照着字段表写一个真实感的完整输出,不用省略号,跑之前先自己核对一遍字段名和类型
- 跑一批看错在哪同一批输入跑二十条左右,把错误分成两类:解析层报错,还是字段内容不对,分开记
- 只改一个变量根据错误类型动一层,改完再跑同一批,确认错误数下降再动下一层
如果你手上有多个版本的模板在混用,建议先用站内的工具统一管理,别靠记忆。工具目录在 /tools,找提示词模板相关的条目就行。手写多版本混着用,出了问题你连回滚到哪一版都不知道。
格式跑了样,按这个顺序查
第一件事,看原始返回,别只看你代码里解析后的结果。很多所谓「格式错」,其实是解析层把代码块围栏当成内容吃进去了,或者把前后的说明文字一起塞进了 JSON 解析器。先把裸返回打出来看,这一步能省掉一半冤枉路。
第二件,确认请求里到底有没有真的带上结构化参数。不少 SDK 默认不传,得自己显式打开,参数名还各家不一样。你以为开了,其实那一格是空的,这种错误查起来最气人。第三件才是回溯上下文:前面几轮是不是你自己先贴了一个不规范的格式,把它带偏了。
- 打印原始返回,确认围栏和说明文字有没有混进来
- 核对请求参数,结构化开关是否真的为真
- 回看前几轮对话,找有没有不规范的样例被它学了去
- 最后才动提示词措辞,前面三步没查完别改字
顺序反了会怎样?见过最常见的一种:一上来就改措辞,把「请输出 JSON」改成「必须输出 JSON,否则…」,改了三轮没效果,最后发现是参数没传。措辞改得越多,你越分不清是哪次改动起的作用,基线就废了。
聊久了格式就散,这是上下文的问题
多轮对话里格式漂移,通常不是模型变笨,是早期那个样例被挤出了上下文窗口。对话越长,第一轮那份格式约定越靠后,权重越低,它自然就开始自由发挥。这事儿怪模型没道理,是信息没持续供给。
做法很简单:把格式约定压成一页短清单,每一轮都带上,别放在第一轮指望它记得。长对话里最后一步汇总最容易失控,可以把汇总拆成独立请求,只喂必要字段,上下文短了,格式反而稳。
想量化漂移程度,别靠感觉。用同一批输入跑不同轮次,对比输出结构的一致率,站内的质量检测相关工具在 /tools 里能找,具体指标和当时的数字到那里核对。有了对比数,你才知道是改对了还是碰巧。
一份能照着做的落地清单
把上面几节收成一份可执行的清单。核心原则只有一条:先用最轻的方式试,错误集中在哪一层,就动哪一层,每次只动一个变量。
- 写清需求一页纸列出字段、类型、空值规则、失败时返回什么,这是判断对错的唯一标准
- 最轻起步提示词加一个完整正例,先不上 schema,跑二十条看错误分布
- 按错误归层解析层报错查代码和参数,字段内容错加 schema 或补边界样例,语气问题改样例和篇幅要求
- 存基线把通过的请求参数和提示词存下来,之后每次只改一个变量,改坏了能回滚
- 定期复跑平台侧和模型侧都会变,隔一段时间拿同一批输入复跑,看基线有没有松动
这份清单不承诺一次到位。你很可能第一轮就发现错误全在参数层,那反而省事。也可能改完提示词发现语气变僵,那就退回去只锁结构。判断标准始终是那句:结构归结构,语气归语气,别用管语气的方法去管结构。
格式控制不是把话说重,是选对约束的层,然后每次只动一个变量。下一步如果你正在选模型或者比对调用成本,别凭印象,到站内的价格与模型资料页核对当时的数字;要检测中转站稳不稳,也有对应的检测入口。→
常见问题
提示词里写「必须返回 JSON」为什么还是会夹解释?
因为文字要求只是概率上的偏向。要让输出只能是指定结构,得在调用参数里指定返回类型或 schema,让平台侧做约束;提示词负责说清字段含义,不要指望它承担校验职责。
schema 会不会限制模型发挥,把内容写得更差?
会有取舍。字段被你固定之后,模型能自由组织的空间变小,长文和推理类任务容易受影响。如果下游不要求机器解析,就别上硬约束,一个正例加几句说明往往更自然。
上下文里已经有过别的格式,还能改回来吗?
能,但要主动覆盖。在最新一轮明确给出新样例,并说明之前的格式作废;如果对话很长,把关键格式约定单独抽出来每轮附带,比指望它记住开头那句更靠谱。
代码块围栏算不算格式问题?
算,但常常被误判。模型返回的 JSON 外面包了一层代码块标记,你的解析器可能直接报错。先确认是不是围栏导致的,再决定是去掉围栏还是在解析前做剥离,别一上来就改提示词。
怎么判断格式不稳定是模型问题还是我没写清?
拿同一段请求跑一批相同输入,看错的类型是否一致。错在同一处多半是你约束有歧义;错得五花八门更像模型侧的概率波动,这时候上结构化参数比磨措辞有效。