视频生成模型本地部署

模型与算力

讲清视频生成模型本地部署的硬件门槛与操作流程,帮你判断自己这台机器能不能跑、该从哪一步开始试。

想在自己机器上跑视频生成的人,多半卡在同一处:图能出,一动视频就爆显存,或者跑完发现一帧要等好几分钟。这篇不堆术语,先给一条判断线——你的卡能不能撑住,然后按顺序走环境、权重、推理、导出四步,附上跑不动时的排查顺序。不适用于纯出图需求,也不适用于只想试两三个镜头的临时用户。

想在自己机器上跑视频生成的人,多半卡在同一个地方:图能出,一动视频就爆显存,或者跑完发现一帧要等好几分钟。这篇不堆术语,先给一条判断线——你的卡能不能撑住,然后按顺序走环境、权重、推理、导出四步,附上跑不动时的排查顺序。

先划清适用范围:这篇不适用于纯出图需求,也不适用于只想试两三个镜头的临时用户。如果你只是偶尔生成一两段素材,本地部署省下的那点调用费,抵不上你折腾环境的时间。真正值得折腾的是有批量生成需求、或者有数据不出内网硬约束的场景。

先判断你的机器够不够:显存、内存、存储三条线

视频比图像多吃的是帧间缓存和时序注意力,显存占用随分辨率、帧数、批大小上升,而且不是线性关系——帧数翻倍,峰值可能翻更多。所以别一上来就盯着目标成片规格,先把目标定在低分辨率、短时长,跑通之后再往上加。这个顺序能帮你省掉反复爆显存重来的时间。

资源决定什么不够时的典型表现
显存单次推理能否放得下爆显存、跑到一半中断
系统内存权重加载与分帧处理加载阶段直接卡死、进程被杀
硬盘权重套数与输出存放跑一半磁盘满、以报错形式中断

拿不准自己的卡属于哪一档,先去 /models/deploy 按你的卡和量化档位跑一遍估算,再对照 /compute/gpus 看自家卡的规格口径是否对得上。注意这类估算只给参考区间,实际峰值还受框架和分辨率设置影响,所以跑第一次时务必自己盯一眼显存峰值。

环境与权重:装什么、从哪拿、放哪

先确认推理框架对这类模型的适配情况。扩散类视频模型和纯 Transformer 视频模型走的路子不同,前者重采样调度、后者重序列长度,别从零写代码,先去 /stacks/frameworks 挑现成方案,能省掉大量调参时间。

  • 权重文件体积大,下载前先看许可证与商用边界,个人玩和对外交付是两回事
  • 目录规划建议权重、缓存、输出分开放,缓存目录指向大容量盘
  • 别把输出直接写到系统盘,长任务跑到后期很容易把盘写满
  • 框架版本与权重格式要对得上,装之前先读一遍模型卡上的依赖说明

许可证这块容易踩坑,尤其是打算把生成结果用于对外交付的人。可以去 /open-weight-license-basics 那一类页面把用途边界过一遍,别等上线了才发现用法不在许可范围内。

跑通第一段:参数怎么起手,怎么确认没白等

  1. 先出文件从最短时长、最低分辨率、最小步数起手,目标是先看到能出文件,而不是先出好看的片子。能出文件再谈画质。
  2. 盯三项指标首次运行重点观察显存峰值、单帧耗时、是否触发内存交换。任何一项异常都先降参数,不要靠等。
  3. 量基础延迟用 /tools/speed-test 一类方式先量出你机器的基础延迟,后面提速才有对照。
  4. 再逐项加码确认能稳定出文件后,一次只加一个变量:先加帧数,再加分辨率,最后动步数。

参数加码阶段最忌讳一次动多个变量。帧数和分辨率同时加,出了问题你根本不知道是哪一项压垮了显存。加一项、验证一项、记一版参数,跑不顺就退回上一版,这个节奏看着慢,其实最快。

跑得慢、爆显存、花屏:按这个顺序排查

三类问题排查顺序不一样,别混着试。爆显存先降批大小和帧数,再考虑量化与分片,最后才是 CPU offload——顺序反了会很慢。速度慢先看是不是每帧重新加载了模型、或者反复做编解码,再看是不是分辨率被悄悄放大;显存没满但就是慢,通常是 IO 或调度问题。

现象优先查常见的非模型原因
爆显存批大小与帧数缓存目录占了显存盘
单帧很慢模型是否反复加载分辨率被默认放大
花屏抖帧导出编码参数音画不同步、封装格式问题
跑到一半中断磁盘剩余空间日志与缓存没清理

花屏、抖帧、音画不同步这几种,多数是导出环节的编码参数问题,不是模型本身跑坏了。换一套编码口径再验一次,如果换了就好,说明模型没问题,别再回头折腾推理参数。

什么情况下别折腾本地:三类人直接走云端

  • 只做几个短片段、没有批量需求的人,本地的时间成本高于收益
  • 对输出时长和分辨率有硬要求、但机器处于入门档的人
  • 有数据不出内网硬约束的人——本地是对的,但要先算清几张卡够用

前两类可以直接去 /ai-nav/category/ai-video 挑现成工具,比本地部署快得多。第三类要在买硬件之前先做容量规划,按 /compute/sizing 算清需要几张卡,别按单张卡的思路配,否则上线就发现排队。

如果不确定该租还是该买,先去 /compute/platforms 比一遍租卡口径,把价格与稳定性两个维度对一遍再决定,数字以页面当时显示的为准。判断标准很简单:先用租的跑通流程、量出真实耗时,再反推自建要几张卡才能覆盖你的峰值需求。

下一步在你动手装环境之前,先花十分钟把机器档位和租卡口径对一遍,能省掉一整轮白折腾。

常见问题

显存 8G 能不能跑视频生成模型?

能跑和能用来是两件事。低分辨率、极短时长、经过量化后有机会出文件,但基本停留在验证阶段,做不了成片。建议先去 /models/deploy 按你的卡跑一遍估算,看它给出的可行区间,再决定是继续调参还是换租卡。

本地部署和直接用在线视频生成工具差在哪?

差在可控性和成本结构。本地能改模型、能批量、数据不出本地,代价是硬件前期投入和调参时间;在线工具省事,但受限于额度、排队和内容策略。判断标准是你的使用频次和数据敏感度,不是画质高低。

跑起来特别慢,是显卡不行吗?

不一定。先分清是算得慢还是等得久:算得慢看显存是否吃满、有没有降分辨率;等得久看权重加载、磁盘读写和导出编码。按这个顺序排除,往往能找出不是显卡的瓶颈。具体基线可以去 /compute/gpus 对照你的卡规格。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。