很多人补大模型是零散补的:今天看懂了 Token,明天听说了 RAG,真动手又不知道先干哪一步,概念和技术堆在一起分不出先后。这篇不逐条讲名词,而是给一张从概念到落地的路线图,标出每个阶段要掌握什么、验收标准是什么、哪些环节可以跳过,以及哪类情况这张路线并不适用。
很多人补大模型是零散补的:今天看懂了 Token,明天听说了 RAG,真动手又不知道先干哪一步。概念和技术堆在一起,分不出先后,学着学着就变成收藏夹里一堆没打开的标签页。这篇不逐条讲名词,而是给一张从概念到落地的路线图。
这张图分三层:概念、技术、工程。每层标出该懂什么、验收标准是什么、哪些环节可以跳过。路线图不是标准答案,它是帮你排序的工具——顺序对了,卡住的时候至少知道自己在第几层,该翻哪页,而不是把整本书重看一遍。
先分清三层:概念、技术、工程
三层混着学最容易卡住。概念没弄清就调接口,报错看不懂;技术没跑通就谈架构,等于空谈。先把问题归类,再决定去查什么、做什么,效率差很多。
- 概念层
- 解决「这个词是什么意思」,答不上来就去查词典,不要靠猜
- 技术层
- 解决「模型怎么被调起来」,重点是接口、上下文、提示这几件事如何互相影响
- 工程层
- 解决「怎么稳定跑起来」,涉及并发、重试、成本、数据边界
判断自己在哪一层有个简单办法:看你卡住时问的问题。问「上下文窗口是什么」在概念层;问「为什么同样的提示两次输出不一样」在技术层;问「上线后账单对不上怎么办」在工程层。问对不同层的问题,去不同的地方找答案。
概念层:一张自检清单,不通过就别往下走
- 能用自己的话说清 Token、上下文窗口、温度参数分别影响什么、不影响什么
- 知道模型输出不稳定是常态,不是接口坏了
- 分得清开源权重、官方 API、订阅、中转这几条获取路径的差别
- 能判断一次回答变差是提示词问题、上下文超限,还是模型本身的选择问题
自检不通过时,去站内 AI 术语词典 按分类补,别在搜索里零散拼答案。零散拼出来的理解往往是错的,而且很难自查。词典的好处是同一个词在不同语境下的含义放在一起,能看出边界。
技术层:按这个顺序动手,别跳步
- 跑通一次请求重点看返回结构和计费口径。验收标准是能不能稳定复现同一次调用,而不是跑通一次就算完。
- 固定提示词模板把输出格式压稳,让同一类问题得到结构一致的答案。验收标准是连续多次调用,输出字段是否可控。
- 再上检索把外部资料喂进上下文,适合模型自身知识答不准的场景。验收标准是加了检索后答案确实变准,而不是延迟变高。
顺序颠倒的典型症状是:还在调格式,就开始搭向量库。格式没稳,检索回来的内容再好也没法用,因为输出本身是乱的。三步之间是依赖关系,不是并列关系。
检索这一步不是必选项。如果你的问题靠模型自身知识就能答准,加检索只会增加延迟和排查成本。判断标准很简单:去掉检索后答案是否明显变差,如果没差,就别加。
工程层:能跑和能用之间差的几件事
| 关注点 | 要做到什么 | 验收方式 |
|---|---|---|
| 成本 | 先估用量再选路线 | 把请求次数换算成实际花费,到站内价格追踪页面核对当时的数字 |
| 稳定性 | 延迟和超时策略上线前量基线 | 模拟超时,看系统是否有可预期的重试和降级 |
| 数据边界 | 定好哪些内容能进提示词 | 列出脱敏规则,抽查几次实际请求的入参 |
验收标准建议写成可观测的三条:能不能复现、超时了怎么办、账单对不对得上。这三条看起来简单,但很多项目上线时一条都没写清楚,出问题只能靠猜。成本方面,用站内的换算工具把「一天多少次请求」翻译成实际花费,比拍脑袋可靠。
数据意识要提前建立。哪些内容能进提示词、哪些必须脱敏,在动手前定好边界,而不是等出事再补。这条在多人协作时尤其重要,因为每个人对「敏感」的判断不一样。
什么情况下这张路线不适用
- 只做内容创作、不写代码的人,工程层整块可以跳过,重点放在提示词和输出格式
- 已经能稳定调用接口的人,别从概念层重学,直接补工程层的成本和稳定性
- 团队已有成熟平台时,重点从「选什么模型」转向「怎么管用量和排查故障」,路线顺序要改
- 如果只是临时验证一个想法,技术层第三步之后可以全部延后,先拿到结论再说
路线图的价值在于排序,不在于覆盖所有情况。如果你的场景跟上面几条都不像,就到站内指南中心看看按角色分类的路径,找一版更贴近你实际情况的顺序。
下一步想按自己的角色找一条更具体的补课顺序,去站内指南中心看分类路径;想核对成本相关数字,去价格追踪页面看当时的记录。→常见问题
我不是算法背景,能直接跳到工程层吗?
可以,但有两个前提:能说清上下文长度怎么影响你的请求,以及知道模型输出每次不同是正常现象。这两条不清楚,排查问题时会一直怀疑是接口坏了。概念层不用学全,够用就行,缺的部分去词典按需查。
概念、技术、实践三块,每天花多少时间比较合理?
不建议按时间切,按验收切更实际。概念层做到能复述就算过;技术层做到同一个请求连跑多次结果可控就算过;工程层做到能说出你的超时和成本上限就算过。每层过了再往下,比平均分配时间有效得多。
学完这些,怎么知道自己算入门了?
一个可用的判断:给你一个具体需求,你能说出走哪条获取路径、上下文大概要多长、输出格式怎么约束、失败了先查哪里。这四件事都答得上来,说明概念和技术是通的;答不上来,就定位到对应的那一层补。