温度参数 对比学习

办公与行业

讲清大模型温度参数是什么意思,以及不同取值会怎样改变输出的稳定性和发散程度,给出一份按任务挑温度的对照清单。

同样一句提示词,跑两遍结果差很多,或者该发散的时候老是给你一套模板答案,多半是温度没调对。这篇不讲数学推导,只讲三件事:温度在调什么、高低温分别会带来什么后果、写方案、做摘要、抽数据这几类活该往哪个方向调。最后给一张按任务类型挑值的对照表和一段自查顺序。

同一句提示词,跑两遍结果差很多;或者该发散的时候老是给你一套模板答案——多半是温度没调对。这篇不讲数学推导,只讲三件事:温度在调什么、高低温分别会带来什么后果、写方案做摘要抽数据这几类活该往哪个方向调。

先说清楚适用边界:如果你用的是网页版聊天窗口、平台上没有暴露参数入口,那这篇里的调值动作你暂时做不了,能做的只有换提示词写法;只有走 API 或支持自定义参数的客户端,温度才归你管。另外,中转站转发时可能压根不透传这个参数,调了没反应属于常见情况。具体哪家平台透传、命名怎么写,到站内 /ai-dict/category/tips 对照当时的资料。

温度到底在调什么:一句话讲明白

温度控制的是模型挑下一个词时的随机程度。它不改变模型知道什么,只改变它愿意冒险到什么程度:调低就偏向概率最高的那条路,输出稳、可复现;调高就給低概率的词留机会,输出更活,但也更容易跑偏。换个说法,它调的是「确定性」,不是「聪明程度」。

  • 它是逐轮生效的,不是全局开关:同一段回答里前后几句的发散程度都会被影响,调高之后整段都松,不只是开头几句
  • 它不解决「模型本来就不会」的问题:知识盲区、推理能力不足,压低温度也补不回来,那属于换模型或补上下文的活
  • 它和「重复惩罚」这类参数方向不同:一个管敢不敢选冷门词,一个管同一个词要不要反复出现,别混着调
  • 如果调了温度感觉没变化,先确认接口是否真的透传该参数,很多平台默认忽略或按固定值跑

低温和高温的差异,落在哪些具体表现上

别看抽象定义,直接看落到输出上的区别。低温的典型表现是答案短而保守、重复提问结果接近,适合有标准答案的活;代价是写法呆板,创意类任务会显得干巴。高温的典型表现是措辞丰富、会主动补充角度、多次生成差异大;代价是事实性内容容易编、格式容易飘、抽字段时容易漏项。

维度偏低温偏高温
输出稳定性重复跑结果接近每次都不一样
措辞保守、模板感重丰富、爱加戏
事实准确相对稳,但也会错更容易编,需人工核
格式规矩通常守规矩容易漏项、破格式
适合的活抽取、代码、判定文案、起名、脑暴
  • 判断该往哪边调的核心问题:这个任务有没有唯一正确答案?有就压低,没有才敢放开
  • 两头都有代价:低温不等于不会错,高温也不等于一定错,只是错的方式不同
  • 别一次调到底:先跑三五次比一比,再决定往哪边挪
  • 别拿一次结果下结论,评估思路可以参考站内 /benchmarks 的对比方法,那里的做法就是固定其他变量只变一个

按任务挑温度的对照清单

下面这张表是给调参起手用的方向,不是硬指标。真正的数值要看你的模型、你的数据、你的容错度,只能自己试出来。表里给的是「往哪个方向调」,先按方向走,再微调。

任务类型调整方向同时要做的配套动作
抽字段、转结构化往低温调要求只输出字段不解释,配上固定格式
摘要、改写中低区间回头核对有没有新增原文没有的信息
文案、头脑风暴往高温调同一提示词多跑几轮再挑,别用第一版
代码、公式压低随机性别让模型自己发挥命名和分支,写清约束
分类、判定往低温调把判断依据写进提示词,减少自由发挥

抽取这类任务的原则是宁可重复也不要出错,所以方向和「稳」一致;摘要既要贴原文又不能逐字抄,所以停在中低区间比两端都实际;文案和脑暴要的是数量和角度,放开才有东西可挑。代码和公式逻辑正确优先,随机性越小越好。这几类的参数命名和术语,到 /ai-dict/category/basics 对一遍再动手,不同平台叫法不一样。

结果不对劲时的排查顺序

  1. 第一步:排除非温度因素看提示词是否含糊、上下文是否超长被截、模型本身是否就不擅长这类任务。这三条没排除之前,调温度基本是白折腾。
  2. 第二步:确认参数真的生效换一个明显极端的取值,跑同一句话,看输出有没有肉眼可见的变化。没变化就是接口没透传,这时候该找文档而不是继续调。
  3. 第三步:单因子对比同一提示词、同一模型,只改温度,各跑几次记下差异,固定住其他变量才有可比性。
  4. 第四步:定值并写进模板选定后写进团队模板并注明适用任务,顺手写清不适用的情况,比如换模型后要重新试。

还有一条容易被忽略:换模型或换版本后要重新试。上一个模型上的顺手取值,换过去不一定成立,可能整体都要往另一个方向挪。模型清单、版本变化和价格调整,到 /models 和 /official-api 看当时的数字,不要凭印象直接套用。

常见问题

温度调到最高是不是就等于模型更聪明?

不是。温度只影响选择的随机性,不增加模型的知识量。调高之后它更愿意尝试不常见的说法,看起来鲜活,但事实错误和格式跑偏的概率也一起上去了。需要准确的地方把温度压低,需要多样性的地方再放开,这跟聪不聪明是两件事。

为什么我把温度设成零,同一句话问两遍答案还是不一样?

可能有三类原因:平台没有透传这个参数,走的是自己的默认配置;你的提示词或上下文里带了时间、随机示例这类每次都会变的内容;服务端为了负载均衡把请求分发到了不同实例。建议先用极端取值做一次对照,确认参数是否真的生效。

团队里要不要统一规定一个温度值?

不建议一刀切。更实用的做法是按任务分组:抽取、代码、格式化这类写进一个低值模板,文案和创意类写进一个高值模板,模板里标明适用场景。新人直接用模板就行,改值的人负责说明为什么改、改完在什么任务上验证过。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。