大模型工程师面试算法原理与系统部署

模型与算力

给投大模型岗位的候选人一份面试考点清单:把算法原理与部署两块按面试官会追问的顺序拆开,逐条给出对应准备动作。

简历上写了会调模型、会部署,面试官一问 KV 缓存怎么占显存、并发上来为什么吞吐掉了,就容易卡壳。这篇把大模型岗面试常问的算法原理和系统部署两块拆成可准备的小节,给出判断标准和准备动作,不承诺押题,也不替你做项目复盘。具体数字类的参数去站内页面核对当时的版本。

简历上写了会调模型、会部署,面试官一问 KV 缓存怎么占显存、并发上来为什么吞吐掉了,就容易卡壳。这篇把大模型岗面试常问的算法原理和系统部署两块拆成可准备的小节,给出判断标准和准备动作,不承诺押题,也不替你做项目复盘。具体数字类的参数去站内页面核对当时的版本。

先想清楚一件事:面试官不是在考你记住多少,而是在判断你能不能把一件事讲透、讲到边界。下面每节都给一个判断标准加一个准备动作,你按自己的岗位 JD 挑着用,不必全做。

算法原理:面试官从哪几层往下问

算法这块的追问是有台阶的,台阶踩空了后面全塌。你不需要把每一层都答到满分,但要清楚自己停在哪一层,并且能主动说清边界,而不是被问住了才承认不会。

  • 第一层是概念边界:注意力干什么、位置编码解决什么、预训练与微调的分工,答不上来后面全塌,站内基础概念词典可以先过一遍
  • 第二层是能画出来:把一次前向的 token 流转、显存里权重加 KV 缓存加激活各自占哪块讲清楚,比背公式更有说服力
  • 第三层是能解释现象:为什么长上下文贵、为什么量化会掉点、为什么同样参数量速度差很多,答的时候落到机制而不是结论
  • 不适用的情况:偏应用的岗位追问深度会停在前两层,硬背推导反而显得没做过东西

准备动作很简单,拿一张白纸,把「输入一句话到输出第一个 token」这条链路画出来,画不出来的地方就是你的知识缺口。画完之后,对每个环节问自己一句「如果这个环节出问题,现象是什么」,能答上来才算过关。

  1. 过一遍基础概念到站内基础概念词典扫一遍关键词,遇到说不清定义的当场记下来,别跳过
  2. 画一次前向链路从分词、嵌入、注意力、前馈到采样,标出显存里哪块在涨哪块在降,画不出来说明第二层没到
  3. 给每个环节配一个现象比如缓存增长对应长上下文变贵,量化对应掉点,每个环节都配一句「所以会看到什么」
  4. 自测边界挑三个你答不上来的追问,写清是概念不清还是没实践过,下一轮重点补前者

系统部署:从起服务到扛并发的追问链

部署这块面试官基本是按一条链问下来的:你怎么把它跑起来、你怎么估资源、出问题你怎么定位。这三问对应三种能力,跑通过、算得清、调得动。你至少要能接住前两问,第三问是加分项但不是必须。

追问方向面试官想听到什么准备动作
部署形态本地起、容器起、托管推理各自的取舍,能说清为什么选这种每种形态写一句适用场景和一句代价,别只说用过
资源测算给模型规模反推卡数和量化档位,思路能现场走一遍到站内部署测算页对着当时的参数走一遍换算,记住思路不记数字
瓶颈定位吞吐掉、首 token 变慢、显存占满各自的排查顺序每类现象写一个三步排查清单,练到能顺口说出来
成本与并发并发上来之后延迟和吞吐怎么变,拐点在哪用站内速度测试工具跑一次自己的环境,看曲线不讲结论

瓶颈定位这块最容易拉开差距。给你一个通用排查顺序:先看是不是显存顶了,再看是不是批处理没吃满,最后看是不是请求排队。顺序反了会白花时间。这不适用于纯研究岗,那边一般问到部署形态就停,不必强行展开运维细节。

准备动作:把知识变成能现场讲的答案

知道不等于讲得出。面试是当场表达,所以准备的重点不是再读一遍资料,而是把知识压成能在一分钟内讲完的答案,并且经得起追问。

  • 按岗位 JD 拆标签:训练微调、推理部署、数据与评测各占多少比重,再决定复习时间怎么分,别平均用力
  • 每个考点准备一个「我做过什么」的具体场景,哪怕是一家 5 人小团队里的一次压测,也比空讲原理强
  • 找同伴做追问式模拟:让对方只问「为什么」和「那如果」,练的是被追问时的稳定性,不是背答案
  • 限定时间自测:给不出的题当场标出来,第二遍只补这些,比从头再读一遍效率高

判断标准是:你能不能在不看笔记的情况下,把一个考点讲成「是什么、为什么这么做、什么情况下不适用」三段。讲不出第三段,说明你只记住了结论。

几个容易扣分的回答习惯

技术对了但表达踩坑,一样会掉分。下面这几条不是知识问题,是习惯问题,改起来比补知识快。

习惯面试官会怎么想怎么改
只给结论不给依据这人大概在转述别人的话补一句「在什么条件下这个方案更好」
把工具名当能力用过不等于懂调度和批处理策略下一问会被打穿,提前准备机制层面的解释
回避不确定猜数字比说不知道风险更高直接说去核对官方来源,站内页面就是现成的入口
顺序倒过来先讲一堆背景再给结论,听着累先从结论说起,再补条件

最后一条要单独说:不确定就说不确定。版本号、价格、跑分这类会变的东西,到这个站的模型资料库和价格追踪页核对当时的数字再答,比现场编一个安全。这不适用于面试官明确只想听结论的场合,那种情况先给结论再补条件,不要把顺序反过来。

下一步把上面四节当成一张自查表,先画一次前向链路,再去部署测算页走一遍资源换算,最后用站内速度测试工具跑一次自己的环境。做完这三件事,你大概能知道自己的缺口在哪。

常见问题

算法原理和系统部署哪块更该花时间?

看岗位 JD 的动词。写『优化推理性能、支撑线上并发』的,部署权重更高;写『模型结构改进、训练策略』的,原理权重更高。两块都绕不开的基础是:能把一次前向的显存构成讲清楚。时间紧就先保这块,再按 JD 往两边扩。

没有大厂部署经验,面试怎么讲部署?

别包装成生产经验,改成讲你复现过什么:单机起了什么服务、并发压到多少之后哪项指标先掉、你调了什么参数。这类小规模实验一样能证明你理解瓶颈在哪。数字类的结果记不清就去站内查当时的记录,别现场编。

面试官问具体参数量、显存数值怎么答?

先答估算方法,再给一个区间。比如按参数量和量化位数反推权重占用,再留出 KV 缓存和激活的余量。精确数字各家版本更新频繁,答『大概量级是这些,具体我会去看官方规格』比硬报一个错数字更稳。站内加速卡规格库和部署测算页可以做核对。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。