大模型原理与技术所涵盖的主题有

想学大模型原理，最容易卡在第一步：资料太多，术语混着来，不知道先啃哪块、哪块可以先跳过。这篇不给你一份课程表，而是给一张主题地图——把数学基础、模型结构、训练流程、推理与部署、对齐与评测、多模态与智能体分成几层，每层列出该搞懂的主题和自检方式，并标出哪些主题在你当前阶段可以先不碰。

想学大模型原理，最容易卡在第一步：资料太多，术语混着来，不知道先啃哪块、哪块可以先跳过。这篇不给你一份课程表，而是给一张主题地图——把数学基础、模型结构、训练流程、推理与部署、对齐与评测、多模态与智能体分成几层，每层列出该搞懂的主题和自检方式，并标出哪些主题在你当前阶段可以先不碰。

先说清楚一个前提：这张地图是给人用的，不是给考试用的。同一层里，有人需要推导，有人只需要知道边界，都算学会了。所以每节后面都跟一个「什么情况下不适用」，你对照自己的目标决定要不要深挖。

先按层分：大模型原理到底由哪几块组成

先把知识切成五层：数学与工具底座、模型结构与注意力机制、训练与对齐流程、推理与部署、应用与评测。分层的好处是，你随时能回答「我现在卡在哪一层」，而不是笼统地说「大模型好难」。

判断标准很直接：能用自己的话解释这一层解决什么问题，才算过；只会背名词不算。比如「注意力机制解决了什么」如果能说到「让每个位置直接取到其他位置的信息」，而不是只念公式，就算过关。

底座层：数学、张量操作与工具链

这一层的作用不是让你成为数学研究者，而是让你在读代码和论文时不被形状和符号卡住。真正高频用到的就那几样，其余可以边用边补，别在这里耗掉全部耐心。

• 线性代数里真正用得上的只有矩阵乘、转置、以及 softmax 相关的形状推导，特征值分解之类先放着；
• 概率与信息论只需要搞懂交叉熵、困惑度这两个概念和它们的直觉含义；
• 工具链主题：张量框架的基本操作、自动求导、显存与数据类型（fp16/bf16/int8 这类精度档）对训练的影响；
• 自检动作：手写一遍单头注意力的矩阵形状推导，写不出来就回炉这一层；
• 术语拿不准时，到 模型底层概念随手对照 把定义对齐，别自己造词

这一层最容易犯的错是「收藏了一堆数学课」。更省事的做法是反着来：先看一段注意力实现代码，遇到看不懂的形状就回去补对应的那一点，学完立刻用得上。零星术语可以到 模型底层概念随手对照 逐条查。

结构层：从注意力到主流架构分支

结构层关心的是信息怎么在模型内部流动。核心主题包括注意力机制、多头、位置编码、残差与归一化、前馈层。这些不是并列的知识点，而是一条装配线：注意力决定信息怎么取，位置编码决定顺序怎么进，残差和归一化决定能不能训得深。

再往上就是架构分支：编码器-解码器、纯解码器、混合专家（MoE）、状态空间类结构。与其背它们的名字，不如记住各自在什么场景下更划算，比如长序列、稀疏激活、双向理解这些差异。

参数量、显存和上下文长度的关系属于这一层的延伸。具体某个模型的规格和占用，到 部署测算 按当时的模型规格算，别用记忆里的旧数字估。

训练层：预训练、微调与对齐是一条流水线

训练层最好按阶段理解，而不是按技术名词理解。典型顺序是：数据清洗与配比、预训练目标、指令微调、对齐方法（偏好优化类）。每一阶段都有明确产物，跳过某一步，后面的效果往往解释不清。

1. 阶段一：数据准备搞清楚清洗规则和配比逻辑，验证方式是能说出删掉某类数据会影响什么能力。
2. 阶段二：预训练理解自监督目标和损失曲线，验证方式是看到异常曲线能猜出是数据问题还是学习率问题。
3. 阶段三：指令微调理解为什么通用模型需要示范数据，验证方式是能区分「不会做」和「不按格式做」。
4. 阶段四：对齐理解偏好数据的作用，验证方式是能说出对齐前后模型行为差异在哪。

评估与损失曲线在这层就要建立认知：数据集怎么划分、过拟合怎么判断，这些概念要尽早形成直觉。没有算力预算的人不需要掌握分布式并行细节，知道存在数据并行、张量并行、流水并行这几类即可。

推理层：从权重到一次可用的响应

推理层是把权重变成产品的那一段。主题包括量化档位、KV 缓存、批处理与并发、显存与吞吐的取舍。这层的判断标准很实操：给定模型规格和卡，你能大致说出跑不跑得起来、大概什么速度。

部署形态分三条路：本地跑、自建服务、托管接口。差别主要在工程约束，不在原理。想对齐自己的延迟预期，用 接口测速：先量出你的延迟基线 做一次实测，比看别人的结论靠谱。

评测与对齐：怎么判断「学懂了」而不是「背过了」

评测这层的核心不是记住谁排第几，而是看懂榜单在测什么。主题包括基准测试的设计思路、题目饱和、自评分问题、众测与单测的差别，以及安全与对齐的基本概念，比如拒答、偏见、幻觉的成因分类。榜单口径和当前数字到 测评榜单库 里逐项看。

• 看到一个榜单，先问它测的是哪种能力，是知识、推理还是指令跟随；
• 再看题目是否可能已经出现在训练数据里，也就是饱和问题；
• 然后看评分方式，是模型自评、人工评还是规则判分，各有什么偏差；
• 最后看榜单有没有更新说明，口径变过几次；
• 无法回答这三问的榜单，只能当参考，不能当结论

对齐部分的自检方式是：遇到一次幻觉输出，能判断它是数据缺失、解码采样问题还是对齐过度拒答造成的。判断不出来，说明这层还没过。只看单一维度榜单就下结论的场合，结论通常不可迁移。

延伸层：多模态、智能体与检索增强

这一层变化最快，建议先把概念边界搞清，再追具体实现。多模态的主题是视觉编码器与文本对齐、图音视频统一表示的基本思路；智能体的主题是工具调用、规划、记忆、多轮状态管理，以及它和单纯对话模型的边界。

检索增强的主题是向量表示、索引与重排的组合逻辑，重点是搞清它和微调的分工：哪些知识该放进外部库，哪些该写进权重。具体实现去 技术栈图谱 按当时的工具生态看，别按一两年前的教程照抄。

延伸层值得投入的不是记住工具有多少个，而是搞清一件事该用检索、该用微调，还是该改流程。

照着走的顺序与自检清单

推荐顺序是：工具底座 → 结构 → 训练流程概览 → 推理 → 评测 → 延伸层。每层留一个产出物，产出物是你判断自己有没有过关的依据，不是给别人看的作业。

1. 产出物一：形状推导纸手写单头注意力从输入到输出的形状变化，写完能给别人讲一遍。
2. 产出物二：训练流程图把预训练到对齐四阶段画成一张图，标出每步产物和可能的失败点。
3. 产出物三：一次推理实测挑一个能跑的模型，记录首字延迟和输出速度，和接口测速的基线对比。
4. 产出物四：榜单解读笔记挑一个榜单，按能力、饱和、评分方式三问写下自己的解读。

判断该不该往下走的标准很简单：上一层能给别人讲明白，再进下一层。已经有工程经验的人可以倒着走，从推理和评测入手，遇到不懂再回补前面的层，这比自己从头啃数学更快见效。