Anthropic API 新能力:同一对话可中途调节 effort 档位
Claude API 加了个"挡位":聊着聊着,能给 AI 临时加力
开发者总算能在对话中途给模型“踩油门”了,同一段会话里前松后紧成为可能。11 月 12 日,
Claude 的东家 Anthropic 为 API 推出一项 Beta 能力:消息流里随时可调 effort,即模型作答时愿“费多大劲”的档位,让回答充分度、响应速度与使用成本之间的取舍随手可拨。
换挡不重开,缓存不掉线
以往一段会话只能绑死一套参数,现在不用了。具体操作是往消息序列中插一条空白 system 消息,再由新增的 output_config.effort 指明目标等级,顶层配置与已命中的提示缓存都照旧不动。但这条调令不往前追溯——要等下一条带新输入的用户消息才起效,已经生成的内容分毫不变,因此插在哪个位置、下一次提问何时到来,都得盘算清楚。
从闲扯到硬核,一处分水岭
effort 牵动的不只是最终写多少字,思考深度、调工具的频次、组织回答的投入都跟着变。常见打法为:对话前段做轻量问答,到了复杂分析那一刻把档位拉高,模型自然加力。长链路智能体尤其吃这一套——前期检索压低档位省 Token,碰上真正要推理的节点再升档,无需为整段对话提前买单。AI 一旦学会“看菜下饭”,算力和账单才算真正握在开发者手里。