温度参数（Temperature）

温度参数（Temperature，温度）是调节模型输出随机性的核心参数。模型对每个可能的下一个词都会给出概率分布，温度在归一化之前缩放这些分数：数值低时高分词与低分词之间的差距被拉大，模型更倾向选择最稳妥的答案；数值高时分布趋于平缓，原本概率很低的词也有了机会。它本质上是“确定性”与“多样性”之间的旋钮。同一次请求在不同取值下可能给出差异明显的回答，因此复现问题时它是首要检查项。

工作机制

模型先为词表中的每个候选词计算一个分数，温度对这个分数做缩放，再经过归一化转成概率，最后按概率采样得到输出。温度接近零时，最高分项的概率被推向绝对优势，输出几乎固定；温度大于一时，原本几乎不可能的词被抬升到可观概率，输出开始出现语病与逻辑断裂。因此温度调节的是采样分布的陡峭程度，而不是模型的知识水平。温度调高并不会让模型更有创造力，它只是让低概率候选更常被选中，其中既有新颖表达也有明显错误。

常用取值参考

• 接近 0：数学计算、代码生成、结构化抽取等要求可复现的任务。
• 0.1 至 0.3：事实问答、摘要、翻译，允许极小措辞变化但结论保持稳定。
• 0.5 至 0.7：通用对话与写作助手，兼顾稳定与自然。
• 0.8 至 1.0：创意写作、头脑风暴、命名与文案发散。
• 更高取值：主要用于探索多样性，实际产品中很少采用。
• 按任务分别配置：同一应用内检索问答与文案生成往往需要不同取值，不必强求统一。

常见误区

• 以为取 0 就完全确定：受浮点精度与并行计算顺序影响，同一输入仍可能偶有差异。
• 只调温度不管其他采样参数：温度常与核采样（Top-p）配合，两者同时收紧会让输出过于死板，同时放宽则容易失控。
• 用高温弥补能力不足：推理题表现差应改提示词或换模型，提高温度只会让错误更随机。
• 一次设定用到底：同一应用内不同功能对确定性的需求不同，应按场景分别配置。
• 忽略其他采样参数：重复惩罚与最大长度同样影响输出，只调温度常看不到预期变化。

实践要点

建议固定一组测试问题，在不同取值下对比输出的正确率与多样性，用数据决定取舍，而不是凭手感调整；推理与工具调用类任务把温度压到接近零，创意类任务再适度放宽。同时要意识到温度只是采样策略的一环，它与提示词写法、模型选择共同决定最终表现，单独调参难以解决结构性的质量问题。把线上实际使用的取值与效果数据一并留存，问题回溯时才能分清是模型更新还是参数改动带来的变化。