用 AI 起草通知、请示、报告这类公文,很多人会去翻采样参数,看到 top-p、temperature 就懵:到底填多少才不出岔子。这篇不给你一个万能数字,而是按公文的两类用法(要能直接用的规范文本、要给人改的素材稿)分别给出设置思路,顺带说清哪些文体压根不该靠 top-p 救。看完你至少能自己判断该往哪个方向调。
用 AI 起草通知、请示、报告这类公文,很多人卡在采样参数上——看到 top-p、temperature 就想找个标准答案填进去。但公文写作没有万能数值,关键是先想清楚你要的是「能直接用的规范文本」还是「给人改的素材稿」,这两类用法对参数的要求完全相反。
这篇按文体和用途分档给设置思路,说清什么时候该动 top-p、什么时候干脆别动。看完你至少能自己判断该往哪个方向调,而不是照抄别人截图里的数字。
top-p 在公文场景里到底管什么
先理清分工:top-p 管候选词的取舍范围,temperature 管取舍之后的随机程度。公文要的是稳,所以通常先压温度,再谈 top-p。两个都放宽,模型就会在措辞上自由发挥,而公文恰恰是最怕自由发挥的文体。
- top-p
- 从概率最高的词开始累积,累计到设定比例就截断,只在这个池子里挑下一个词;值越小池子越窄,用词越保守
- temperature
- 在选定池子里决定随机程度;值越高越容易跳出不常见的表达
- 公文场景的优先顺序
- 先把温度压下来,top-p 保持默认或略收紧,最后才考虑细调
公文对措辞的要求是「有固定说法」:决定、函、纪要都有惯用句式,top-p 放宽会让模型换同义词,换出来的往往不合规范。比如「现予印发」被换成「现在发给大家」,意思没错,但格式上就不对了。所以默认先别动——多数平台的默认 top-p 是为通用对话调的,写公文时保持默认、把力气花在给范文和结构上,比反复调参数有效得多。
按用途分三档设置思路
| 用途档位 | 典型文体 | top-p 方向 | 为什么 |
|---|---|---|---|
| 直接产出可用的正式文本 | 通知、通告、批复 | 收紧到偏保守区间 | 宁可句子平一点,也别让它造出新说法 |
| 给人改的素材稿 | 讲话稿初稿、汇报要点 | 可略放宽 | 换来更丰富的表达,后面有审稿兜底 |
| 仅供自己参考的思路稿 | 提纲、分点、框架 | 放宽到中等 | 重点不在措辞而在结构,措辞松一点无所谓 |
这三档只是方向,不是数值。具体区间随模型不同差别很大,别照抄别人的数字;到站内的模型库里挑你要用的那家,看它文档给的推荐范围再定。换模型等于换了一套概率分布,同一个 top-p 在两个模型上的效果可能完全不一样。
- 固定一段测试文本找一段真实写过的通知,把提示词和输入都固定下来,作为后续对比的基准。
- 先跑两遍默认参数不做任何调整,跑两遍同样的提示词,观察两遍输出在措辞上是否稳定。
- 只改 top-p 再跑两遍按上表的方向调一档,其他都不动,再跑两遍,对比输出差异。
- 看稳定性而不是看好坏两遍表述是否一致,比数值本身更能说明问题;忽好忽坏说明区间太宽,收一收。
判断标准很朴素:同一段提示词跑两遍,结果表述稳定、合规用词没被替换掉,这个设置就能用。反过来,如果两遍差别很大,说明要么参数太松,要么提示词本身约束不够。
调参数之前先做的四件事
动手调 top-p 之前,有四项准备工作做完,参数的影响会明显变小。很多人跳过这几步直接调数值,结果调了一下午也没稳定下来,问题其实出在提示词上。
- 把公文体例、层级、称谓写进提示词:文种、主送机关、落款方式定下来后,参数的影响会明显缩小
- 给一段本单位过往的合格文本当参照,让模型对齐用词习惯,这比调 top-p 更直接
- 把硬约束单独列出来:不要口语词、不要自造缩略语、数字与单位照原样保留
- 固定其他变量:换模型、换提示词、换参数不要同时做,否则出了问题分不清是谁的锅
排查顺序建议这样走:先看是不是提示词没说清文种和体例,再看是不是这个模型本身不适合公文这类文体,最后才轮到参数。参数通常是这三者里影响最小的一环,放在最后调。
什么时候调 top-p 也救不了
有些问题不是参数能解决的,认清这条能省下大量瞎调的时间。下面这几种情况,收紧或放宽 top-p 都不会让结果变好。
- 需要引用具体政策条文、编号、时限时,模型本来就容易编,收紧参数只会让它编得更像是真的,这类内容必须人工核实原文
- 涉及保密信息的公文不要投喂给公开接口,这不是参数问题而是流程问题,到站内的安全与合规分类里对照一下处理方式
- 跨部门会签稿的措辞分寸,往往取决于内部惯例和过往默契,参数调不出来,只能靠人补
- 单位有固定行文模板和审签流程时,AI 的定位应该是填内容的助手,而不是定稿人
还有一种常见误判:把「输出太啰嗦」当成参数问题。多半是提示词里没写篇幅要求,或者没给字数上限。这类问题改提示词一句话就能解决,动参数反而把其他部分搞乱。
公文写作里,参数调的是措辞的松紧,调不了体例的对错,也调不出内部惯例的分寸。下一步想知道你手上那个模型的默认采样参数和推荐范围,可以到站内的模型资料库核对;如果拿不准某家中转站靠不靠谱,先去可信度检测页看一眼再决定用不用。→
常见问题
写公文到底该不该动 top-p?
多数情况下不用动。公文的难点在体例、称谓、用词分寸,不在随机性。先把文体要求、参照范文、禁止出现的说法写进提示词,稳定性提升比调参数明显得多。只有当你要生成多版备选表达、做头脑风暴时才值得放宽。
top-p 调低是不是就等于更严谨?
不等于。调低只让选词更集中,句子更平,但模型该编的细节照样会编,比如编号、时限、引用条文。严谨靠的是你给足约束条件加上人工核对,参数只能改变表达风格,改不了事实准确性。
不同模型推荐的 top-p 一样吗?
不一样,各家默认值和适用区间差别不小,所以别照搬别人截图里的数字。到站内的模型库查你要用的那家的参数说明,再按自己的体裁试两遍对比稳定性,比抄数字靠谱。