Stable Video Infinity 边缘部署在显存受限的本地 GPU 上跑通无限长视频推理【免费下载链接】Stable-Video-Infinity[ICLR 26 Oral] Stable Video Infinity: Infinite-Length Video Generation with Error Recycling项目地址: https://gitcode.com/GitHub_Trending/st/Stable-Video-InfinityStable Video InfinitySVI是 ICLR 26 Oral 的无限长视频生成模型用 Error Recycling 微调让模型自行修正自回归误差。本文面向显存有限的本地与边缘 GPU 环境给出 SVI 边缘部署的落地路径VRAM 管理、FP8 量化、tiled VAE 与流式生成如何配合把 14B 基座压进有限显存。 场景与痛点边缘机器的显存与存储瓶颈典型的边缘推理机有两条硬约束显存和存储。SVI 的基座是 Wan 2.1 I2V 14B仅 bf16 权重就超过 28GB再叠加 T5 文本编码器、CLIP 图像编码器和 VAE想整卡常驻显存对多数机器并不现实。存储侧同样吃紧7 分片的基座权重加上各类辅助文件合计要占掉几十 GB。项目的设计恰好对应这些限制。SVI 的增量权重只是加载在 Wan 基座上的 LoRA 适配器体积远小于基座边缘机器上分发和更新成本很低enable_vram_managementdiffsynth/vram_management/layers.py按层在 CPU 与 GPU 之间搬运权重让显存只常驻一部分 DiT 参数生成则按 clip 流式推进每段 81 帧落地一个 chunk 文件再续下一段内存占用不随视频总长增长。图长视频生成预览baseline 与 SVI-Film 在 0:40–1:20 时间点的帧对比基线出现明显漂移SVI 保持了人物与场景的一致性。 动手前环境与硬件确认最低硬件门槛GPU官方验证环境为 A100 80G CUDA 12.0 torch 2.8.0pip 实装 2.5.02.4.1 亦可开启 VRAM 管理后的最低显存需实测确认内存≥32GBVRAM 管理开启时基座权重会换出到 CPU 常驻存储≥60GB基座 7 分片 T5/CLIP/VAE LoRA Python 环境Python 3.10conda、Linux可选flash_attn2.8.0.post2装不上时按 README 指引换替代后端速度会变慢依赖安装与精简conda create -n svi python3.10 conda activate svi pip install -e . pip install flash_attn2.8.0.post2 conda install -c conda-forge ffmpeg librosa libiconvsetup.py 默认拉全 requirements.txt 的依赖。只做推理的话gradio仅 demo 用、deepspeed / xfuser / lightning多卡训练、tensorboard 与 matplotlib 都可以不装onnxruntime 和 dwpose/ 姿态链只在 SVI-Dance 需要。 核心流程分步跑通流式推理步骤一下载基座权重与 SVI LoRA推理需要两组权重Wan 2.1 I2V 14B 基座和 SVI LoRA。LoRA 远小于基座已部署的边缘机器上同步更新只需传这一个文件。huggingface-cli download Wan-AI/Wan2.1-I2V-14B-480P --local-dir ./weights/Wan2.1-I2V-14B-480P huggingface-cli download vita-video-gen/svi-model version-1.0/svi-shot.safetensors --local-dir ./weights/Stable-Video-Infinity下载完成后weights/目录应与 README 中列出的树一致缺分片会导致加载报错。权重就位后不能直接开跑14B 模型能否装进显存决定整条流水线是否可用所以先配置 VRAM 管理。步骤二配置 VRAM 管理与量化精度--num_persistent_param_in_dit控制常驻显存的 DiT 参数量默认 6e9是边缘部署的核心旋钮调小后更多权重换出到 CPU显存下降、单步变慢按目标卡容量在 1e9 到 6e9 之间取值。pipe SVIVideoPipeline.from_model_manager(model_manager, torch_dtypetorch.bfloat16, devicecuda, is_testTrue) pipe.enable_vram_management(num_persistent_param_in_dit1*10**9)若 1e9 仍吃紧可继续减半显存下限与总耗时建议实测确认DiT 权重还可按 test_svi.py 中的注释把torch_dtype改为torch.float8_e4m3fn开启 FP8。步骤三用官方脚本跑通流式推理bash scripts/test/svi_shot.sh脚本等价于带参调用 test_svi.py--num_motion_frames 1Shot 用 1 帧、Film 用 5 帧、--max_width默认 832、输入帧data/toy_test/shot/frame.jpg。生成按 clip 流式推进每段 81 帧、24fps 输出显存占用恒定时长由--num_clips单独控制。图仓库自带的 svi_2.0 示例输入帧推理会按 --max_width 将宽度压到 832贴近 480p 训练分辨率。最短链路通过后再在显存和速度之间做取舍。步骤四推理步数与 tiled VAE 调优--num_steps默认 50边缘机器先降到 20–30 实测画质下限--tiled开启 tiled VAE 编码配合--tile_size 30 52、--tile_stride 15 26压低解码峰值--cfg_scale_text默认 5.0文本跟随差或有鬼影时按 docs/FAQ.md Q3 提到 7--ref_pad_num -1单场景任务保持默认参考帧用随机帧填充以消除漂移 效果与调优下表是默认配置与推荐起点的对照具体数值因卡而异优化项参数入口默认推荐起点显存常驻--num_persistent_param_in_dit6e91e9–2e9权重精度torch_dtypebfloat16float8_e4m3fnVAE 编码--tiled关闭开启30×52 tile推理步数--num_steps5020–30实测注表中为参数配置对照而非实测数据帧耗时与显存峰值随 GPU 型号与驱动差异很大建议实测确认。调优时优先动这几个点分辨率最敏感模型按 480×832 训练输入过大会被强行 resize推理变慢且易缺动作--max_width建议锁在 832 及以下docs/FAQ.md Q3时长规划每个 clip 81 帧、约 3.4 秒--num_clips只影响总时长不影响显存峰值边缘机器先用 2–3 个 clip 验证更新包要小自训 LoRA 后用 utils/extract_lora.py 只导出 LoRA 权重边缘机器只同步这个小文件快速回归gradio_demo.py 目前支持 SVI-Shot 与 SVI-Film适合改完参数后做可视化验收 延伸资源docs/FAQ.md色偏、缺动作、CFG 选择与 test 脚本各参数含义Q3、Q5的排障参考scripts/test/ 与 scripts/train/shot、film、talk、dance 等 6 种变体的推理与训练参数模板配 data/toy_train/ 可自训 LoRAcomfyui_workflow_svi_1.0/官方 SVI-Shot 的 ComfyUI workflow JSON适合想把流程搬进 ComfyUI 的场景这套流程适合本地工作站与边缘 GPU 卡的离线长视频生成下一步可关注 Wan 2.2 分支的适配硬件门槛还会继续下探。【免费下载链接】Stable-Video-Infinity[ICLR 26 Oral] Stable Video Infinity: Infinite-Length Video Generation with Error Recycling项目地址: https://gitcode.com/GitHub_Trending/st/Stable-Video-Infinity创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 
长河君 · 2026/10/21 3:49:46 · 阅读 1.2k Stable Video Infinity 边缘部署：在显存受限的本地 GPU 上跑通无限长视频推理
Stable Video Infinity 边缘部署在显存受限的本地 GPU 上跑通无限长视频推理【免费下载链接】Stable-Video-Infinity[ICLR 26 Oral] Stable Video Infinity: Infinite-Length Video Generation with Error Recycling项目地址: https://gitcode.com/GitHub_Trending/st/Stable-Video-InfinityStable Video InfinitySVI是 ICLR 26 Oral 的无限长视频生成模型用 Error Recycling 微调让模型自行修正自回归误差。本文面向显存有限的本地与边缘 GPU 环境给出 SVI 边缘部署的落地路径VRAM 管理、FP8 量化、tiled VAE 与流式生成如何配合把 14B 基座压进有限显存。 场景与痛点边缘机器的显存与存储瓶颈典型的边缘推理机有两条硬约束显存和存储。SVI 的基座是 Wan 2.1 I2V 14B仅 bf16 权重就超过 28GB再叠加 T5 文本编码器、CLIP 图像编码器和 VAE想整卡常驻显存对多数机器并不现实。存储侧同样吃紧7 分片的基座权重加上各类辅助文件合计要占掉几十 GB。项目的设计恰好对应这些限制。SVI 的增量权重只是加载在 Wan 基座上的 LoRA 适配器体积远小于基座边缘机器上分发和更新成本很低enable_vram_managementdiffsynth/vram_management/layers.py按层在 CPU 与 GPU 之间搬运权重让显存只常驻一部分 DiT 参数生成则按 clip 流式推进每段 81 帧落地一个 chunk 文件再续下一段内存占用不随视频总长增长。图长视频生成预览baseline 与 SVI-Film 在 0:40–1:20 时间点的帧对比基线出现明显漂移SVI 保持了人物与场景的一致性。 动手前环境与硬件确认最低硬件门槛GPU官方验证环境为 A100 80G CUDA 12.0 torch 2.8.0pip 实装 2.5.02.4.1 亦可开启 VRAM 管理后的最低显存需实测确认内存≥32GBVRAM 管理开启时基座权重会换出到 CPU 常驻存储≥60GB基座 7 分片 T5/CLIP/VAE LoRA Python 环境Python 3.10conda、Linux可选flash_attn2.8.0.post2装不上时按 README 指引换替代后端速度会变慢依赖安装与精简conda create -n svi python3.10 conda activate svi pip install -e . pip install flash_attn2.8.0.post2 conda install -c conda-forge ffmpeg librosa libiconvsetup.py 默认拉全 requirements.txt 的依赖。只做推理的话gradio仅 demo 用、deepspeed / xfuser / lightning多卡训练、tensorboard 与 matplotlib 都可以不装onnxruntime 和 dwpose/ 姿态链只在 SVI-Dance 需要。 核心流程分步跑通流式推理步骤一下载基座权重与 SVI LoRA推理需要两组权重Wan 2.1 I2V 14B 基座和 SVI LoRA。LoRA 远小于基座已部署的边缘机器上同步更新只需传这一个文件。huggingface-cli download Wan-AI/Wan2.1-I2V-14B-480P --local-dir ./weights/Wan2.1-I2V-14B-480P huggingface-cli download vita-video-gen/svi-model version-1.0/svi-shot.safetensors --local-dir ./weights/Stable-Video-Infinity下载完成后weights/目录应与 README 中列出的树一致缺分片会导致加载报错。权重就位后不能直接开跑14B 模型能否装进显存决定整条流水线是否可用所以先配置 VRAM 管理。步骤二配置 VRAM 管理与量化精度--num_persistent_param_in_dit控制常驻显存的 DiT 参数量默认 6e9是边缘部署的核心旋钮调小后更多权重换出到 CPU显存下降、单步变慢按目标卡容量在 1e9 到 6e9 之间取值。pipe SVIVideoPipeline.from_model_manager(model_manager, torch_dtypetorch.bfloat16, devicecuda, is_testTrue) pipe.enable_vram_management(num_persistent_param_in_dit1*10**9)若 1e9 仍吃紧可继续减半显存下限与总耗时建议实测确认DiT 权重还可按 test_svi.py 中的注释把torch_dtype改为torch.float8_e4m3fn开启 FP8。步骤三用官方脚本跑通流式推理bash scripts/test/svi_shot.sh脚本等价于带参调用 test_svi.py--num_motion_frames 1Shot 用 1 帧、Film 用 5 帧、--max_width默认 832、输入帧data/toy_test/shot/frame.jpg。生成按 clip 流式推进每段 81 帧、24fps 输出显存占用恒定时长由--num_clips单独控制。图仓库自带的 svi_2.0 示例输入帧推理会按 --max_width 将宽度压到 832贴近 480p 训练分辨率。最短链路通过后再在显存和速度之间做取舍。步骤四推理步数与 tiled VAE 调优--num_steps默认 50边缘机器先降到 20–30 实测画质下限--tiled开启 tiled VAE 编码配合--tile_size 30 52、--tile_stride 15 26压低解码峰值--cfg_scale_text默认 5.0文本跟随差或有鬼影时按 docs/FAQ.md Q3 提到 7--ref_pad_num -1单场景任务保持默认参考帧用随机帧填充以消除漂移 效果与调优下表是默认配置与推荐起点的对照具体数值因卡而异优化项参数入口默认推荐起点显存常驻--num_persistent_param_in_dit6e91e9–2e9权重精度torch_dtypebfloat16float8_e4m3fnVAE 编码--tiled关闭开启30×52 tile推理步数--num_steps5020–30实测注表中为参数配置对照而非实测数据帧耗时与显存峰值随 GPU 型号与驱动差异很大建议实测确认。调优时优先动这几个点分辨率最敏感模型按 480×832 训练输入过大会被强行 resize推理变慢且易缺动作--max_width建议锁在 832 及以下docs/FAQ.md Q3时长规划每个 clip 81 帧、约 3.4 秒--num_clips只影响总时长不影响显存峰值边缘机器先用 2–3 个 clip 验证更新包要小自训 LoRA 后用 utils/extract_lora.py 只导出 LoRA 权重边缘机器只同步这个小文件快速回归gradio_demo.py 目前支持 SVI-Shot 与 SVI-Film适合改完参数后做可视化验收 延伸资源docs/FAQ.md色偏、缺动作、CFG 选择与 test 脚本各参数含义Q3、Q5的排障参考scripts/test/ 与 scripts/train/shot、film、talk、dance 等 6 种变体的推理与训练参数模板配 data/toy_train/ 可自训 LoRAcomfyui_workflow_svi_1.0/官方 SVI-Shot 的 ComfyUI workflow JSON适合想把流程搬进 ComfyUI 的场景这套流程适合本地工作站与边缘 GPU 卡的离线长视频生成下一步可关注 Wan 2.2 分支的适配硬件门槛还会继续下探。【免费下载链接】Stable-Video-Infinity[ICLR 26 Oral] Stable Video Infinity: Infinite-Length Video Generation with Error Recycling项目地址: https://gitcode.com/GitHub_Trending/st/Stable-Video-Infinity创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考