Claude API 新增 effort 参数:同一对话可中途调档
同一段对话里前松后紧,Anthropic 让开发者终于能中途给模型"踩油门"。11 月 12 日,这家 Claude 开发商给 API 加了一项 Beta 能力:开发者可在消息流里随时调节 effort,也就是模型回答问题愿"费多大劲"的档位,帮人在回答充分度、响应速度与使用成本之间随手拨秤。 换挡不重开,缓存不掉线
开发者现在能在对话中途给模型“踩油门”了,前松后紧的节奏由自己掌控。11 月 12 日,
Claude 背后的 Anthropic 为 API 上线一项 Beta 功能:消息流里可随时调整 effort,即模型作答时愿意“费多大劲”的档位,让回答充分度、响应速度与使用成本之间的取舍随手可调。
换挡不重开,缓存不掉线
早先一段会话只能绑定一套固定参数,现在不用了。具体操作是往消息序列中插入一条空白 system 消息,再通过新增的 output_config.effort 指定目标等级,顶层配置与已命中的提示缓存均保持原样。这条调令不往前追溯——要等下一条带新输入的用户消息才生效,已经生成的内容不受影响。因此插在哪个位置、下一次提问何时到来,都得提前算准。
从闲扯到硬核,一处分水岭
effort 影响的不只是最终输出多少字,思考深度、调用工具的次数、组织回答的投入都会随之变化。常见用法是:对话前半程做轻量问答,转入复杂分析时调高档位,模型便会自动加力。长链路智能体尤其受益——前期检索用低档省 Token,到了真正需要推理的环节再升档,无需为整段对话预先付费。AI 学会“看菜下饭”,算力和账单才真正回到开发者手中。