很多初学者一搜机器学习算法,得到的是几十个名词堆在一起,不知道谁管什么、该先学哪个。这篇不谈公式推导,只给一张分类地图:监督、无监督、强化三大类各解决什么问题,常见算法分别落在哪一格,以及拿到一个具体任务时怎么对号入座。看完你能判断手上的活该用哪一类思路,而不是先背名字。
很多初学者一搜机器学习算法,得到的是几十个名词堆在一起,不知道谁管什么、该先学哪个。这篇不谈公式推导,只给一张分类地图:监督、无监督、强化三大类各解决什么问题,常见算法分别落在哪一格,以及拿到一个具体任务时怎么对号入座。
看完你应该能判断手上的活该用哪一类思路,而不是先背名字。如果你连「标注数据」是什么意思都还模糊,先补一下数据的基本概念再回来,这条路会顺很多。
先分清三大类:有标签、没标签、靠反馈
分类的第一刀不是切算法,是切「你手里有没有答案」。有答案叫监督,没答案叫无监督,没有标准答案只有奖励信号叫强化。这一刀切对了,后面选具体算法只是挑工具。
| 类别 | 数据里有没有答案 | 典型任务 | 常见落点 |
|---|---|---|---|
| 监督学习 | 有,每个样本带标签 | 分类、回归 | 线性模型、树模型与集成、神经网络 |
| 无监督学习 | 没有,只有输入 | 聚类、降维、异常发现 | 聚类方法、降维方法、密度类方法 |
| 强化学习 | 没有标准答案,有奖励 | 决策、控制、博弈 | 策略类方法、价值类方法 |
- 判断口诀第一步:先问「我手里有没有标注好的答案」,这一步决定大类
- 判断口诀第二步:再问「我要的是预测一个值、分一堆组,还是做一连串决定」
- 如果两个问题都答不上来,说明任务还没定义清楚,此时选任何算法都是碰运气
- 强化学习对环境和试错成本要求高,个人做小项目一般先从监督或无监督入手
监督学习内部:按输出形态分,不按名气分
监督学习里最有用的一刀是按输出形态切:输出是类别标签的走分类思路,输出是连续数值的走回归思路。这一步定错,后面调参、换模型、加数据都是白费,因为评价标准都不一样。
- 分类
- 输出是有限个类别,比如是不是、属于哪一档
- 回归
- 输出是连续数值,比如一个量的大小
- 线性模型类
- 特征清晰、关系接近直线时好用,解释性强、训练快
- 树模型与集成
- 表格数据、特征类型混杂时稳,对量纲和缺失值容忍度高
- 神经网络类
- 图像、语音、文本这类高维非结构化数据的主力,吃数据量和算力
一个不适用的情况要说清:如果你的数据只有几百条、字段也就十来个,别一上来就上神经网络,简单模型往往更稳、更容易解释,也更容易排查问题。
对号入座的做法
- 写一句话任务描述格式固定为「输入是什么、输出是什么」,写不出来就说明还没想清楚
- 看输出形态输出是类别就归分类,是数值就归回归,别混着定
- 看数据形态表格数据优先从树模型类试起;图像、文本、语音优先从神经网络类试起
- 验证归类对不对用一条小样本跑通全流程,能拿到可对比的结果,说明大类没选错
无监督学习:没有标准答案时怎么用
无监督的难点不在算法,在验收。没有标签就没有标准答案,你只能靠业务经验判断结果有没有意义,这一点必须在动手前就想清楚,否则做完也不知道好坏。
- 聚类:把一堆没有标签的对象分组,比如把用户按行为分成几拨,但分几组、分得对不对需要人来定
- 降维:把几十上百个字段压缩成少数几个方向,用于可视化和加速后续模型,代价是丢掉一部分信息
- 异常发现:从大量正常样本里挑出少数可疑项,前提是异常样本极少且与正常样本明显不同
- 不适用情形:目标本来就是预测一个已知标签,硬套无监督只会得到一个无法验收的结果
- 折中做法:先做无监督探索拿到结构,再人工标注一小批,转回监督路线
| 你想达到的效果 | 更适合的路线 | 为什么 |
|---|---|---|
| 预测一个已知标签 | 监督学习 | 有标准答案,可量化验收 |
| 把对象分成几拨 | 无监督聚类 | 没有标签但有结构可找 |
| 压缩字段数量 | 无监督降维 | 目标是表达效率不是预测 |
| 挑出少数可疑项 | 无监督异常发现 | 正常样本占绝大多数 |
拿到任务怎么选:一张对号入座的顺序
选算法不是比谁高级,是按顺序排除。下面这个顺序能帮你把大部分错误选项提前砍掉,剩下的再慢慢试,比一上来就纠结用哪个算法高效得多。
- 确认有没有标注数据没有标注就只能在无监督或先想办法造标注之间选,这一步决定整个方向
- 看输出形态类别、数值、分组、还是一串动作,对应不同大类和评价方式
- 看数据形态表格数据优先树模型类,图像文本语音优先神经网络类
- 先跑基线再升级用最简单的一版跑通全流程,拿到可对比的基线,再换复杂方法
- 基线的作用不是出好结果,是给你一个「换方法有没有变好」的参照
- 每次只改一个变量:换模型、换特征、换参数,别同时动三样,否则不知道是谁起的作用
- 记录每次实验的配置和结果,哪怕只是写成几行文本,也比凭记忆强
初学者最常踩的几个坑
这些坑基本和算法本身无关,更多是流程和判断问题。提前知道能省下大量来回折腾的时间,也能让你在同样的数据上得到更可信的结论。
| 坑 | 具体表现 | 怎么避开 |
|---|---|---|
| 把算法当目的 | 先挑算法再看数据 | 先有任务和数据,再挑算法 |
| 用训练集表现当结论 | 没留验证数据,上线就崩 | 动手前先切出验证集 |
| 忽略特征质量 | 换算法没用,换特征差一个档 | 把特征整理当成主要工作 |
| 小数据上重模型 | 数据太少还上参数多的模型 | 先用简单模型保稳 |
如果你想知道某类算法在实际榜单里的表现口径,到站内测评与榜单相关页面核对当时的数字,别照搬别人的结论,任务不同结论往往不通用。
下一步把三大类记牢之后,最有效的一步是拿一个自己熟悉的小任务跑通全流程,遇到评估口径和工具选择的问题,可以到站内指南中心按主题查。→常见问题
机器学习算法到底要全部学一遍吗?
不用。先把三大类各弄懂一个代表,知道它适合什么输入输出,再遇到具体任务时按需查。多数实际工作只会反复用到少数几类,剩下的属于知道名字、需要时能查到的程度就够。
零基础该先学哪个算法?
建议从监督学习里的线性模型或树模型类入手,因为它们的输入输出关系最直观,跑通一遍能看清训练、验证、预测这条链路。等这条链路熟了,再去看神经网络类的东西会顺很多。
怎么知道选的算法适不适合我的场景?
看三件事:你的数据有没有标签、输出是类别还是数值、数据是表格还是图像文本语音。这三点基本能框定范围。如果框完还是两三个候选,就各跑一版简单基线,用同一批验证数据比,别只凭感觉。