机器学习运维(MLOps)
AI TERM术语词条MLOps
术语释义
MLOps 把数据、代码与模型纳入同一套版本与流水线,让模型从实验到上线可复现、可回滚、可监控。
MLOps 是把机器学习项目从实验推进到生产的工程体系:数据与模型要有版本,训练与评测要能自动重跑,上线要能灰度与回滚,线上要能监控效果衰减。它要解决的是实验跑通但上线一团乱的问题——模型效果取决于数据、代码与超参的组合,任何一项没记录清楚,问题就无法复现。
覆盖的环节
- 版本与血缘:代码、数据快照、超参与产出的模型要能相互追溯,知道某个结果由哪次运行产生。
- 流水线自动化:从数据校验、训练、评测到打包上线串成可重复执行的流程,减少手工步骤。
- 注册与发布:模型进入仓库后按阶段流转,发布支持灰度与快速回退,回退应能在一次操作内完成,且不依赖重新训练。
- 线上监控:除服务指标外还要看输入分布与效果指标,效果衰减到阈值时触发重训。
- 评测基准:固定一批离线评测样例,让每次改动都有可比的分值,避免凭印象判断好坏。
落地路径
小团队更有效的顺序通常是先做记录与评测,再做自动化:把每次训练的配置、数据版本与结果登记下来,固定一套离线评测集,保证改动之间可比较;随后把训练到评测这一步自动化,让模型能按需重跑;最后才做发布与回滚的自动化。数据与模型的登记习惯比平台选型更关键,没有统一的记录,再好的工具也留不下可追溯的线索。线上监控要区分服务健康与效果质量:前者看延迟、错误率与资源水位,后者看输入分布偏移与业务指标,二者触发的是不同的处理动作。
边界与常见误区
- 不是买工具就能解决:平台只提供能力,流程与约定要团队自己定并长期执行,否则会退化成一批没人维护的看板。
- 与纯软件工程的区别:软件的行为由代码决定,模型行为还取决于数据,因此版本管理必须覆盖数据而不只是代码。
- 特征口径不一致是常见坑:训练与线上各写一套特征计算逻辑,离线指标很好看、上线立刻掉点,应尽量复用同一份实现。
- 与面向大模型的工程实践的区别:大模型场景在此之上还关注提示词与评测集管理、生成质量与调用成本,关注点更偏内容与开销。
推进时不要追求一次铺满全链路,先选一个真实在跑的模型,把版本、评测与回滚三件事做扎实,形成可复制的模板,再推广到其他模型。衡量是否有效可以看两点:出问题时能否在较短时间内定位到具体的数据与配置,以及回退到上一个可用版本需要多少人力和时间。