自动提示优化(DSPy)
AI TERM术语词条DSPy / APO
术语释义
把提示词当作可训练参数,用少量标注样例驱动程序自动搜索与改进提示及流程,替代手工反复试写,让效果提升可度量、可复现。
自动提示优化(Automatic Prompt Optimization,APO)指的是用程序化方法替代人工反复打磨提示词。以 DSPy 为代表的框架把提示词、示例与流程都当作可搜索的参数:开发者用声明式方式写出任务模块与调用流程,再提供少量输入输出样例和一个评分函数(度量函数),由优化器自动生成候选提示、评估表现并挑选更好的一版。它之所以重要,是因为提示迭代从此有了可复现、可比较的路径,换模型时也不必把调参经验全部推倒重来。
与手工调提示的区别
手工调提示依赖个人经验,改动往往凭感觉,难以说明哪一处改动带来了多少提升,换一个模型后效果还可能整体失效。自动优化把评测指标放在中心位置,提示只是被搜索的对象之一,因此结果更稳定,也更容易迁移到新模型。它并不否定人的作用:任务如何拆解、样例怎么选、指标怎么定,仍然需要人来判断,机器负责的是在既定目标下把搜索做穷尽。
关键要素
- 样例集:少量高质量标注数据同时承担优化与验证两个角色,规模不必大但必须贴近真实输入分布
- 度量函数:能自动给输出打分的规则或模型评审,它是整个优化循环的指南针,定错方向再好的优化器也白费
- 模块拆分:把复杂任务分解成可单独优化的步骤,既便于分别调优,也便于定位是哪一步拖了后腿
- 候选搜索:按策略生成并筛选提示与示例的组合,在探索新写法与利用已有好写法之间取得平衡
适用场景与代价
流程清晰、指标可自动计算的任务收益最明显,例如文本分类、信息抽取与固定格式生成;这些任务的正确性容易判定,优化器有明确的方向可循。代价在于前期要搭建评测集与样例,投入不小,属于典型的一次性成本换长期收益,因此并不适合一次性的临时需求。还要注意指标设计一旦偏离真实目标,自动优化会稳定地朝错误方向收敛,把偏差放大成系统性缺陷。
实践要点
- 先定指标再谈优化:确认评分方式能反映业务真正在意的质量,而不是只反映表面相似度
- 小步验证:先在一个模块上跑通优化闭环,确认指标与人判断一致,再扩展到整条流程
- 留出验证集:优化用的样例与验证用的样例必须分开,否则分数会虚高
- 管住成本:候选评估意味着大量模型调用,需要设置搜索预算与停止条件