图解大模型 生成式ai原理与实战

很多人卡在同一个地方：名词看懂了一半，图也刷了不少，但真让自己画一遍注意力怎么流动、数据怎么从语料变成能答话的模型，还是接不上；动手环节更含糊，不知道从哪一步开始、做到什么程度算过关。这篇给一条按图推进的学习动线和对应的动手动作，并标出哪些环节光看图会误判、什么时候该停下来去核对站内当时的模型与算力数据。

很多人卡在同一个地方：名词看懂了一半，图也刷了不少，但真让自己画一遍注意力怎么流动、数据怎么从语料变成能答话的模型，还是接不上。动手环节更含糊，不知道从哪一步开始、做到什么程度算过关。

这篇不堆概念，给一条按图推进的学习动线，加一份能照着做的动手清单。顺手标出哪些环节光看图会误判、什么时候该停下来去核对站内当时的模型与算力数据。全程记住一件事：图是帮你把形状和流程对上，不是用来背的。

先定看图顺序：从一句话生成到完整链路

看图最忌讳东一张西一张，看到哪算哪。正确做法是按一条主线排：输入→分词→向量→注意力→输出概率→采样成字。一张图只回答一个问题，别把训练和推理画在同一张里，否则两个流程的箭头会互相打架，越看越糊涂。

• 图解最容易漏掉的三处：位置信息怎么进去、多层堆叠后表征怎么变、上下文长度对哪一步开销最大
• 每看一个环节记两件事：这一步输入输出的形状是什么、算力和显存压力落在哪
• 形状对不上，说明图看错了，回去重看那一张，别硬往下走
• 名词一次校准到位，别边看边猜，猜错一个后面全歪

名词校准有现成的地方。Token 与上下文这类基础词去 /ai-dict/category/basics 过一遍，底层概念去 /ai-dict/category/tech。看完再回头对图，你会发现之前很多「看不懂」其实是词没对齐。

训练图和推理图要分开画

训练侧要画清的只有三件事：数据从哪来、损失怎么算、参数怎么被改。推理侧只画清一件事：给定上文怎么选出下一个词。两边混在一张图上，是初学者最常见的翻车点。

有个常见误解：把「模型记住了这段话」画成往仓库里存东西。实际是权重被调整，图上要标出这一步是不可逆的批量过程。自己画训练流程图时，先分阶段标注再填细节，阶段划分乱了后面全乱，阶段口径可以去 /training 对照。

什么时候不用往下钻

只做调用和应用层开发的人，训练侧画到「损失与参数更新」这一层就够，再往下的优化器细节对上手没帮助，反而拖慢进度。这条不适用于要自己训模型或者调训练超参的人。

动手梯子：从调到训，四级任务清单

动手别一上来就冲微调。按四级梯子走，每一级留一个明确的验收动作，说不清就退回去重来。这个「说得清」比跑通更重要，跑通可能是碰巧，说清才是真懂。

1. 第一级：调官方接口跑同一提示词在不同温度下的输出，观察差异。验收：能说出这次输出发散是温度还是提示词的问题
2. 第二级：本地起开源模型跑通一次对话和一次向量检索。验收：能解释检索结果为什么是这几条
3. 第三级：小规模微调用少量自有数据跑一轮，重点看数据格式和过拟合。验收：能判断这次结果变差是数据脏还是参数不对
4. 第四级：推理侧工程调批量与并发。验收：能说出瓶颈卡在显存还是吞吐

算力和显存怎么配别拍脑袋。先用 /models/deploy 做部署测算，再拿 /compute/sizing 按模型核一遍卡数。两次口径差太多，说明参数设错了，回去检查量化档位和上下文长度设置。

做之前先过的检查清单

开工前花几分钟过一遍清单，能省掉后面几小时的排查。清单不长，但每条都对应一个真实会踩的坑。

• 先确认目标：是讲清原理，还是跑出能用的东西，两个目标的看图深度和动手顺序完全不同
• 环境先对齐三件事：模型权重来源、量化档位、推理框架，三者不匹配时报错最难查
• 图解类内容的坑：图省事省略了归一化和采样，照着画会在实现环节对不上
• 半路别分叉：看到微调就想换更大的模型，先把小模型一轮流程走完再谈规模

规模相关的数字，一律去 /models 和 /compute 看当时的口径，别拿印象里的数当依据。学习路径上遇到分叉，回到清单第一条问自己：我现在的目标是哪个。

图看懂不算懂，能画出输入输出的形状、说清开销落在哪一步，才算过关。