AI视频生成十次才满意?腾讯云WAND用白模前置降低返工成本
作者|林绮蓓 编辑|蔡芳芳 用 AI 生成一段视频,可能只需要几分钟。但要让它真正符合创作者的要求,往往还得一遍遍地尝试。在 AI 视频制作中,这种反复生成、筛选的过程被形象地称为“抽卡”。 腾讯云 WAND 多模态应用负责人朱琳在采访中提到:按照行业经验,制作一部 AI 短漫剧,从分镜到成片,过程中可能需要大约十次生
靠AI做一段视频,几分钟就能出片。可要让它真达到创作者心里的标准,通常得反复试上好多遍。行内把这种一遍遍生成、一遍遍筛的过程叫作“抽卡”。
腾讯云WAND多模态应用负责人朱琳在采访中给出的行业经验是:一部AI短漫剧从分镜做到成片,中途大约要生成十次,才碰上一次满意的结果。这种落差不止出现在视频上,它照出的是眼下AI创作共同的矛盾——生成越来越快,创作者却没法同样快地拿到自己真正想要的东西。门槛是降了,反复试的代价却不轻。每“抽”一次卡,背后都多一次模型调用、多一段等待,还可能搭上人工筛选、修改和返工。
10月30日,腾讯全球数字生态大会多模态应用专场举行,会后还有媒体采访。腾讯云、智象未来等企业的嘉宾到场,围绕这个难题讲了各自在真实内容生产里碰到的困难和做过的技术摸索。
AI能生成好画面,为什么还是难以一次性交付?
电商场景里,商家经常要用AI给商品换背景、调光影,同时保证形状、颜色和品牌标识原样不变。同一件商品还得产出主图、卖点图、场景图等好几种素材。这就要求模型不光生成达标的画面,批量出图时也得把商品特征拿准、拿稳。
视频制作更难。单独一个镜头看着够真了,可放进连续叙事里,角色形象、人物动作、空间关系、镜头衔接都得对得上。一个镜头偏了,前后内容的连贯性就可能被带歪。
今年9月发表的论文《Better Call CineCrew: Consistent Ultra-Long Narrative-to-Film Generation》同样提到,长篇叙事视频生成仍卡在镜头级控制、跨片段视觉身份和角色行为一致性这些地方。研究者认为,现有基于提示词的工作流容易出问题,一大原因是剧本和视频生成模型之间缺一层结构化的中间层,镜头、角色、连续性这些约束没法充分表达出来。
说白了,剧本讲的是故事里发生了什么,却不一定讲明摄像机怎么动、人物站在哪儿、哪些细节在镜头之间必须保持一致。这些信息如果生成前没表达清楚,创作者往往只能等结果出来再一遍遍改。
腾讯云副总裁、媒体AI产品负责人李志成在采访中也提到,即便是行业头部的视频生成模型,放到光影、物理规律比较复杂的影视场景里,仍有没解决的问题。
商业生产对多模态模型的要求,也就不再只是画面逼真,还包括指令能不能准确遵守、内容能不能保持一致、素材能不能稳定产出并达标。不然,生成再快,也可能只是更快地攒出一堆等着筛选和修改的素材。
十次生成才有一次满意,成本究竟花在哪里?
生成结果的不确定,最后都会落到时间和钱上。
多模态模型一般按调用次数、视频时长或输出规格收费,可单次生成的价格说明不了成品的成本。打个比方,生成一次视频要10元,平均十次才出一个可用镜头,光生成费就是100元;可用率提到50%,理论上平均两次就能拿到可用结果,费用降到20元。人工筛选、修改和后期处理的钱还没算进去。所以对批量生产内容的团队来说,把可用率提上去,和把单次调用价格压下来,分量一样重。
腾讯云今年推出的音视频AI产品家族WAND,就是想从模型优化、生成控制、后期处理这几环下手,少让人返工。据腾讯云披露,WAND已帮客户把内容生产的综合成本降了约20%。
这笔钱是怎么省下来的?朱琳在采访中解释,提高内容可用率是重要的一条路。除了把模型生成效果调好,WAND还用白模前置、擦除修复、生成式增强等技术,让一些原本要重新生成的素材处理之后就能用,反复生成和返工随之减少,综合成本也就下来了。
漫森文化的实践给出了更具体的数据。公司助理总经理谭琳介绍,团队此前的镜头可用率约为30%。接入腾讯云WAND的视频生成、画面修复与增强等能力后,可用率升到50%—80%,再经过精细化运营,能稳定在80%左右。
漫森文化还把WAND的视频生成、画质增强等能力接进自研制作中台,用Agent工作流把剧本、分镜、画面生成、后期处理和剪辑串起来。谭琳透露,公司做的精品AI短剧单部成本约10万—20万元,用上WAND相关能力后,成本又省了约30%,整体效率提升约30%。
电商领域也有类似变化。紫讯科技联合创始人杜玉生介绍,公司主要服务跨境电商B端客户,帮商家做广告获客素材。接入WAND-Vega后,图片素材的有效使用率从原先的50%—60%升到70%—80%;业务效果相同的前提下,商家的素材成本有所下降。
减少“抽卡”,为什么需要在模型之外做文章?
想把内容可用率提上去,光调模型不够,还可以在生成前把约束讲清楚,在生成后把缺陷补回来。
先说生成之前,把含糊的创作要求变成更明确的约束。
李志成在采访中介绍,面对复杂影视场景,WAND试着引入3D白模:先用3D软件生成简化的场景视频,把物体位置、空间关系以及部分运动信息定下来,再当作参考交给视频生成模型。
跟完全靠自然语言描述相比,白模能把场景布局、物体位置和运动关系变成更明确的视觉约束。创作者在正式生成前就能调整空间结构和镜头安排,再让模型出最终画面,生成结果的不确定性因此减少。
现场一位业务负责人讲了个真实客户案例。一家保险客户想呈现春节燃放鞭炮出事故、救护车赶到现场的情节。用户口述需求后,平台的工具先做出对应的白模场景,再交给WAND-Vega或其他模型生成视频,反复尝试的次数就少了。
针对专业场景来说,通用模型未必总是最合适的选择。李志成在采访中解释,WAND-Vega 并非从零训练的通用基座模型,它是在腾讯混元及部分开源基础模型之上做后训练和调优得到的。
腾讯云走这条路,和它看到的实际业务需求有关。不少通用场景里,现有生成模型已经能满足基本要求,但电商、短剧等专业场景仍有一些反复冒出来的问题。电商要准确保留商品特征,影视制作更在意人物一致性、动作和镜头衔接。围绕这些高频需求做优化,图的是提高模型在特定业务中的适用性,而不是单纯去拼通用评测成绩。
WAND-Vega 还有主打性价比的 Lite 版,以及更看重生成质量的 Pro 版。李志成表示,部分行业主流模型的效果已基本对齐,在此基础上,面向对成本敏感客户的方案能把模型成本压低约 20%—30%。
最后,生成结果只有局部问题时,修复可能比重新生成更划算。视频主体内容已经符合要求,只剩错误字幕或局部画面瑕疵,重新生成不光增加成本,还可能把原本满意的部分改掉。
这类问题,WAND-EraseVibe+ 提供了视频擦除与画面重建能力。腾讯云披露的技术方案显示,该工具采用基于隐空间 Transformer 的生成式修复架构:先把视频画面编码为隐空间特征,在特征层推断并重建需要修复的区域,再解码成视频画面。
白模前置、垂直场景调优和局部修复分别作用在不同环节,目的都是减少为了拿到可用内容而付出的重复生成成本。可当一个生产任务要经过多个模型与工具,新问题也跟着来了:这些能力该怎么连接,由谁决定下一步做什么?
从模型调用到自动交付,Agent 能接管多少工作?
一段视频从生成到成片,可能要经过画面修复、增强、配音、字幕和剪辑等多个环节。这些任务通常由不同模型或工具完成,开发者不光要处理它们之间的依赖关系,还得管理执行状态和异常情况。
一些固定流程的任务,交给自动化工作流就能处理。漫森文化的做法是自研制作中台,按事先设好的流程去调用不同模型和处理工具。碰上需要临时拼合多种能力的任务,Agent 的方式更灵活。
据一位业务负责人介绍,用户在其平台的 Creative OS 上用自然语言说出创作需求,模型选择和工具调用由 Agent 参与完成。平台早前一次统计的结果是,视频模型调用里有 82% 已由 Agent 发起;过去有些操作要手动搭画布节点,现在系统可以代劳。
Agent 能帮助理解任务、选择工具、组织执行步骤,但生成结果是否符合创作意图、是否达到商业使用要求,以及需要怎样修改,仍然可能要创作者来判断。
智象元一沈伟峰在接受采访时说,普通个人创作者往往只看最终结果,专业影视团队则不同,除了成片质量,还要求创作过程足够可控、可编辑。比如一个镜头的整体效果创作者觉得行,但只想改人物表情;或者场景想留着,只调镜头运动。工具要是每次都把整幅画面重新生成,或者中间结果留不住、改不了,那自动化程度再高,也未必适合严肃的商业生产。所以 Agent 不能只想着减少人工操作,还得让创作者在关键节点上能查看、能修改、能调整结果。
从模型生成、工具处理到 Agent 编排,多模态内容生产正在尝试把原本分散的能力组织成一套完整的工作流。但要真正实现稳定交付,系统不光要完成各环节的调用,还得保证生成结果符合要求,并允许创作者在关键节点介入修改。