vllm github release

自己跑推理的人迟早会撞上这个问题：vLLM 更新太快，版本号一路往前滚，但线上跑着的那版不能随便动。想升级，怕踩权重加载、接口参数、镜像 tag 的坑；不升级，又怕错过关键修复。这篇不讲跑分和具体版本号，只给一套读 release 记录、判断能不能升、升完怎么验的流程。

自己跑推理的人迟早会撞上这个问题：vLLM 更新太快，版本号一路往前滚，但线上跑着的那版不能随便动。想升级，怕踩权重加载、接口参数、镜像 tag 的坑；不升级，又怕错过关键修复。

这篇不讲跑分和具体版本号，只给一套读 release 记录、判断能不能升、升完怎么验的流程。把它当成一份排查顺序来用，遇到新版本发布时照着走一遍，比刷更新日志有用。

先学会读 release 记录，别只看标题

vLLM 的 release 页信息密度很高，一份记录里常常混着好几类改动。你要做的是先分类，再决定哪些跟自己有关。把「新增了哪些模型」和「改了哪些行为」分开看，前者大多可以忽略，后者才影响你线上升不升。

新增模型与架构支持

看有没有你正在跑或打算跑的权重；没有就跳过这一段

性能与显存改动

影响吞吐、显存峰值、首 token 延迟，是否受益要自己在同环境实测

破坏性变更

接口参数改名、默认值调整、依赖版本变化，这三类会让现有启动命令直接失效

破坏性变更是选型时唯一必须先看的部分。参数改名、默认值改动、依赖的 CUDA / torch 版本要求，这三项最容易让现成的启动命令报错。先在这块扫一遍，比通读全文省时间。

模型支持列表要按你实际要跑的权重去看，别人关心的模型和你无关。具体支持到哪一档，到 /models 对照站内模型库和部署测算页核一遍，别靠记忆判断。

判断你这个场景到底该不该升

升级决策不该看版本号大小，而该看你当前是否被某个问题卡住。先列信号，再对号入座：命中了就值得升，没命中就先放着。

• 该升的信号：当前版本在你这个模型上命中已知问题、启动报错、显存占用异常、吞吐明显不达标
• 可以先不升：现有版本能稳定起服务，并发和延迟都在可接受区间，只是新版多了些你用不到的能力
• 留一版不动的理由要写下来：你依赖的是某个参数默认值或某个镜像 tag，改动成本高于收益
• 小团队（比如 5 人以内）建议固定一个已知可用的版本，升级走独立环境验证，别在主环境直接换

还有一种情况是「被动升级」：你换了推理卡或换了驱动，旧版本不再兼容。这种时候不是选不选的问题，而是必须升，流程要按下面的清单走。

1. 先复现问题在旧版本上用最小配置复现你遇到的问题，确认是版本导致的，而不是配置或权重问题
2. 在独立环境升拉一份新版本环境，用同一套权重和同一份启动脚本跑起来，别动主环境
3. 跑通再加并发先单请求跑通，确认输出正常，再逐步加到线上并发档位观察表现
4. 对比再切把新旧版本的关键指标并排看一遍，确认有改善再考虑切换

这里的关键动作是「先复现、再隔离、后对比」。跳过任何一步，升级都会变成盲猜。各版本实际支持范围，到 /inference 和 /models/deploy 按当时的数字核。

升级前的对照清单与回退预案

真正让升级翻车的往往不是版本本身，而是周边没对齐。升级前把四样东西列出来对一遍：启动命令里的参数、模型权重格式、推理卡型号与驱动、容器镜像 tag。任何一项变了，都要单独测。

新版本上线前，先用同一个模型、同一个并发档位跑一遍基线，跟旧版本对比输出质量、首 token 延迟、显存峰值。这三项是判断「能不能切」最直接的依据。

• 量化方式最容易跨版本行为不一致，升级后重点验一遍
• 张量并行切分方式变了，吞吐和显存都会跟着变，要重测
• 上下文长度相关配置改了默认值，长请求场景要单独压一遍
• 旧镜像 tag 别删、旧启动脚本存成单独文件，出问题能一键切回

什么情况下这套流程不适用

上面这套流程默认你在通用 GPU 上常驻服务。下面几种场景逻辑不一样，照搬会走弯路。

• 换了推理卡平台（比如从通用 GPU 换到国产卡分支）时，版本对齐逻辑跟主线不同，要看对应分支自己的发布节奏
• 只做一次性离线批量推理、不常驻服务时，锁版本意义不大，跑完就完
• 把 vLLM 当库嵌进自己代码而不是起服务时，升级要额外看 Python API 的签名变化，不能只按命令行参数对
• 对某些模型有硬性依赖、且新版尚未覆盖到该模型时，先别动，等到确认支持再排升级

这几类场景的共同点是：影响面不在版本号上，而在你的运行方式和硬件路径上。具体各版本的性能与支持范围，别凭记忆判断，到 /inference 和 /models/deploy 按当时的数字核。