AI短剧制作助手 | AI Short Film Producer
概述
本Skill提供一套完整的低成本AI短剧制作流程，从脚本创作到最终成片，总成本仅需¥30-50/部（128秒短片）。核心思路：用AI API生成素材 → 本地FFmpeg合成 → WorkBuddy编排调度。
适用场景：
- 用户说"帮我做一个短片/短剧/预告片"
- 用户说"把这段文案做成视频"
- 用户说"生成一个XX题材的短视频"
- 用户需要从零到一完成AI视频制作
核心成本优势：
- 视频生成：Grok Imagine（速创API，按秒计费）
- 配音生成：TTS（速创API，按字计费）
- 合成剪辑：本地FFmpeg免费
- AI编排：WorkBuddy Lite版
制作流程总览
Step 1: 脚本创作
├── 确定主题/时长/风格
├── 编写分镜脚本（镜头×台词×角色）
└── 输出：分镜表 + TTS文本清单
Step 2: 视频镜头生成
├── 调用速创API Grok Imagine
├── 25个镜头批量异步生成
└── 输出：ep1_shots/*.mp4
Step 3: TTS配音生成
├── 调用速创API audio_tts
├── 多角色多音色
└── 输出：ep1_tts/*.mp3
Step 4: 音频驱动剪辑
├── 逐段按TTS时长裁剪/循环镜头
├── 短镜头自动stream_loop填充
└── 输出：分段seg_*.mp4
Step 5: 字幕生成
├── Python Pillow生成透明PNG字幕
├── FFmpeg overlay叠加（因FFmpeg 8.x无drawtext）
└── 输出：带字幕的分段视频
Step 6: 最终合成
├── concat拼接25段视频
├── concat拼接25段音频
├── 音视频合并
└── 输出：最终成片.mp4
Step 7: 素材导出
├── 结构化桌面文件夹
├── 矩阵表 + JSON
└── 成本核算
详细步骤
Step 1: 脚本创作
输入： 用户需求（主题、风格、时长、参考素材）
输出： 分镜脚本文档 + TTS台词清单
工作流程：
1. 与用户确认主题方向（科幻/悬疑/科普/剧情等）
2. 编写分镜脚本，包含：
- 镜头编号、画面描述、时长
- 配音台词、角色分配、音色选择
- 音效说明
3. 输出TTS台词清单（25段以内，每段2-20字最佳）
4. 角色音色分配表：
| 角色类型 | 推荐音色ID | 说明 |
|---|---|---|
| 旁白/叙述者 | male-qn-jingying | 精英青年男声，通用 |
| 男主角 | male-qn-jingying | 精英青年男声 |
| 霸道/硬汉 | male-qn-badao | 霸道男声 |
| 反派/俊朗 | junlang_nanyou | 俊朗男声 |
| 成熟女性 | female-chengshu | 成熟女声 |
| 少女 | female-shaonv | 少女音 |
| 研究员/学生 | male-qn-daxuesheng | 大学生男声 |
| 醇厚长辈 | male-chunhou | 醇厚男声 |
Step 2: 视频镜头生成（速创API Grok Imagine）
API平台： 速创API（详见 references/sucuang_api.md）
模型： Grok Imagine（xAI Aurora引擎）
价格： 按秒计费（具体见平台）
API调用方式：
- 鉴权：Authorization Header 传API Key（不带Bearer前缀）
- 接口：POST /api/async/video/grok_imagine
- 参数格式：扁平JSON
- 结果查询：GET /api/async/detail?id=xxx（轮询直到status=2）
批量生成策略：
1. 25个镜头同时提交（用ThreadPoolExecutor）
2. 每个镜头约10秒，生成耗时约30-60秒
3. 失败自动重试（平均重试3次）
4. 注意：Sora2接口已不可用（持续400错误），全部使用Grok Imagine
Prompt编写要点：
- 英文Prompt效果更稳定
- 包含：场景描述、光线、构图、镜头运动
- 示例："Deep space, Milky Way galaxy slowly rotating, cinematic wide shot, photorealistic, 4K quality"
Step 3: TTS配音生成（速创API audio_tts）
API接口： POST /api/async/audio_tts
价格： 按字计费（具体见平台）
参数格式（重要）： 扁平JSON，不要嵌套
{
"text": "台词内容",
"voice_id": "male-qn-jingying",
"speed": 1.0
}
注意事项（踩坑经验）：
- ❌ 不要传 format 参数（会报500"存在未绑定的参数"）
- ❌ 不要嵌套成 {"model":"audio_tts","params":{...}}
- ✅ 状态码判断：status=2 完成，status=0/1 处理中
- ⚠️ 部分任务会卡住（status一直=0），重试可换IP节点
- ✅ 返回tar包，需解压获取mp3
Step 4: 音频驱动剪辑（核心节奏控制）
核心理念： 画面长度由语音旁白决定，而非固定时长。先录制/生成TTS配音，再让每段视频精确匹配对应配音的时长。这样保证音画天然同步，且节奏由配音自然驱动。
4.1 节奏控制逻辑
每段（镜头, TTS）的处理流程：
1. 获取TTS音频实际时长 tts_dur（用ffprobe精确到毫秒）
2. 获取源视频时长 src_dur
3. 对比决策：
├── src_dur >= tts_dur + 0.5s → 直接裁剪到tts_dur（视频多出的部分舍弃）
├── src_dur ≈ tts_dur（差<0.5s）→ 直接裁剪，不做额外处理
└── src_dur < tts_dur → stream_loop循环播放填满tts_dur
4. 输出：seg_NNN.mp4（时长=tts_dur，精确匹配配音）
为什么用"音频驱动"而非"视频驱动"：
- 传统剪辑：先定视频长度，再往里塞配音 → 配音节奏被画面绑架
- 音频驱动：先定配音节奏，再裁剪画面适配 → 叙事节奏由台词自然决定
- 效果：观众听到的每句话都有对应的画面时长，不会出现"话没说完画面就切了"
4.2 短镜头循环填充（stream_loop）
当源视频时长不够时，用FFmpeg的stream_loop让视频循环播放：
# 循环播放直到填满tts_dur
/opt/homebrew/bin/ffmpeg -y -stream_loop -1 -i shot.mp4 -t {tts_dur} -c:v libx264 -preset fast seg.mp4
实战经验（三体EP1）：
- 25个镜头中有3个需要循环填充
- 最大修复：pan_han_02火鸡演讲（源视频10s → TTS需要19s，循环补9s）
- 循环填充的视觉重复感在1-2次循环内不明显，超过3次建议换镜头
4.3 逐段精确裁剪避免累积漂移
# 关键：每段独立裁剪，不整体缩放
cumulative = 0.0
for i, (tts_file, shot_file) in enumerate(segments):
tts_dur = get_duration(tts_file) # ffprobe获取
# 精确裁剪到tts_dur，不依赖前一段的结束时间
trim_video(shot_file, tts_dur, f"seg_{i:03d}.mp4")
cumulative += tts_dur
# 最终验证：所有seg时长之和 ≈ audio_concat时长 ≈ 最终成片时长
FFmpeg路径（Mac mini M4）： /opt/homebrew/bin/ffmpeg
已知限制：
- FFmpeg 8.x 未编译drawtext/libass/freetype滤镜 → 不能直接加字幕
- anullsrc语法用 cl=stereo 而非 c=stereo
- shell转义用Python subprocess list模式避免zsh问题
Step 5: 字幕生成
方案： Pillow生成透明PNG → FFmpeg overlay叠加
from PIL import Image, ImageDraw, ImageFont
# 创建透明PNG
img = Image.new('RGBA', (1920, 160), (0,0,0,0))
draw = ImageDraw.Draw(img)
font = ImageFont.truetype('/System/Library/Fonts/PingFang.ttc', 48)
# 白色大字 + 黑色描边
draw.text((960, 80), "台词文本", fill='white', font=font,
anchor='mm', stroke_width=3, stroke_fill='black')
# FFmpeg overlay叠加
ffmpeg -i seg.mp4 -i sub.png -filter_complex "overlay=0:H-h" output.mp4
字幕设计规范：
- 底部居中，距底部约60px
- 白色大字 + 3px黑色描边
- 字号48-56px（PingFang SC字体）
- 可加角色标签（如"旁白："、"汪淼："）
Step 6: 最终合成
拼接视频：
# 生成file list
for f in seg_*.mp4; do echo "file '$f'" >> video_list.txt; done
ffmpeg -f concat -safe 0 -i video_list.txt -c copy video_concat.mp4
拼接音频：
for f in audio_*.mp3; do echo "file '$f'" >> audio_list.txt; done
ffmpeg -f concat -safe 0 -i audio_list.txt -c copy audio_concat.aac
音视频合并：
ffmpeg -i video_concat.mp4 -i audio_concat.aac -c:v copy -c:a aac final.mp4
Step 7: 素材导出与成本核算
桌面文件夹结构：
~/Desktop/项目名称/
├── 01_字幕/ → 字幕PNG文件
├── 02_配音/ → TTS音频MP3
├── 03_主图/ → 镜头缩略图JPG
├── 04_视频/ → 分段视频MP4
├── 05_矩阵表/ → 矩阵表.html + 素材结构.json
└── 最终成片.mp4
成本核算模板：
| 项目 | 计算方式 | 说明 |
|---|---|---|
| Grok Imagine视频 | 总秒数 × 重试次数 × 单价 | 按秒计费 |
| TTS配音 | 总字数 × 单价 | 按字计费 |
| WorkBuddy算力 | 对话轮次 × 单价 | 按轮计费 |
| 硬件折旧 | Mac mini ¥3,999/3年寿命 | ¥3.65/天 |
| 电费 | 16h × 65W × ¥0.6/度 | ¥0.62/天 |
速创API平台速查
平台地址： 详见 references/sucuang_api.md
文档中心： 详见 references/sucuang_api.md
常用模型及价格：
| 模型/接口 | 价格 | 说明 |
|---|---|---|
| Grok Imagine 视频生成 | 按秒计费 | 文生视频/图生视频，6-15秒 |
| audio_tts 配音 | 按字计费 | 多音色TTS |
| video_digital_humans 数字人 | 按次计费 | 需公网音频URL+视频URL |
| Sora2（已弃用） | — | 持续400错误，不可用 |
API Key传递：
- ✅ Authorization Header（推荐，不带Bearer前缀）
- ❌ URL参数 ?key=xxx（会返回403）
三体EP1实战参考
项目规模： 25个镜头，127秒成片，8个角色
总成本： ¥44.17（含重试+硬件折旧）
工具链： Grok Imagine × 25 + TTS × 25 + FFmpeg + Python Pillow
迭代版本： v5min → v6 → v7 → v7.1 → v8（5个版本迭代）
关键经验：
1. Sora2不可用，全部切Grok Imagine
2. 源视频短于TTS时用stream_loop循环填充
3. FFmpeg 8.x无drawtext，用Pillow生成PNG替代
4. TTS部分任务卡住需重试
5. 逐段精确裁剪避免累积漂移
专业审核与迭代流程
AI生成的第一版通常不是最终版。必须经过"制作→审核→修改"的迭代循环才能达到交付标准。
审核维度
| 维度 | 检查内容 | 常见问题 |
|---|---|---|
| 音画同步 | 画面内容是否匹配配音台词 | 角色A说话但画面是角色B |
| 时长匹配 | 每段视频是否完整覆盖TTS | 短镜头被截断，话没说完画面就切 |
| 视觉重复 | 循环播放是否超过3次 | 火鸡演讲循环9s，观众能看出重复 |
| 字幕准确 | 字幕文本是否与TTS一致 | 错别字、标点错误 |
| 节奏感 | 整体叙事节奏是否流畅 | 某段太长拖沓，某段太短仓促 |
| 画面质量 | 是否有明显AI生成瑕疵 | 人物变形、闪烁、分辨率低 |
迭代流程
V1（初版合成）
↓
专业审核（逐段检查以上6个维度）
↓
问题清单 → 按严重程度排序
├── P0（必须修）：音画不匹配、字幕错误、画面截断
├── P1（建议修）：节奏拖沓、视觉重复感强
└── P2（可优化）：画面质量、色调统一
↓
V2（修复P0问题）
↓
再次审核
↓
V3...（逐轮修复，直到P0=0、P1≤2）
↓
最终交付
实战案例：三体EP1迭代记录
| 版本 | 问题 | 修复方案 |
|---|---|---|
| v5min | 252秒成片，但TTS只有127秒，大量空白 | 重新按TTS时长裁剪 |
| v6 | 音频驱动剪辑，但3个短镜头被截断 | 修复中 |
| v7 | 短镜头截断（火鸡演讲缺9s） | stream_loop循环填充 |
| v7.1 | 循环修复完成，但无字幕 | 加字幕 |
| v8 | 字幕+音画同步修复+矩阵表 | ✅ 最终交付 |
审核工具：
- 逐段对比：ffprobe 获取每段TTS和视频的精确时长
- 偏差检查：每段TTS vs 视频时长差 > 0.5s 即标记为问题段
- 画面检查：播放时逐段确认画面内容与台词匹配
资源文件
references/
sucuang_api.md— 速创API完整接口文档和踩坑经验production_workflow.md— 制作流程详细参考
scripts/
- （按需添加：批量提交脚本、合成脚本模板等）
assets/
- （按需添加：字幕模板、片头片尾素材等）
