【免费下载链接】FastGenNVIDIA FastGen: Fast Generation from Diffusion Models项目地址https://gitcode.com/gh_mirrors/fastge/FastGen点击查看免费下载FastGen 是 NVIDIA 开源的 PyTorch 扩散模型蒸馏框架内置一致性模型、DMD2、Self-Forcing 等单步/少步快速生成方法。本文手把手教你扩展 FastGenModel 抽象接口、实现自定义 FastGenNetwork把你的蒸馏算法接入这套支持 10B 参数规模训练的完整流水线。先认识 FastGen一个可插拔的蒸馏训练框架FastGen 的核心价值在于把蒸馏算法与网络结构彻底解耦——你只需要实现一个方法类和一个网络类训练循环、EMA、DDP/FSDP2 分布式、断点续训、WB 日志全部由框架代劳。能力说明大规模训练支持 ≥10B 参数DDP / FSDP2 开箱即用多模态任务T2I文生图、I2V图生视频、V2V视频编辑内置蒸馏方法CM / sCM / TCM / MeanFlow、DMD2 / f-Distill / LADD / CausVid / Self-Forcing、KD / SFT 等网络覆盖EDM、SD15/SDXL、Flux、Qwen-Image、Wan、CogVideoX、Cosmos 等 方法清单可对照 fastgen/methods/README.md每个方法都附了对应的论文与实现类是扩展新算法时最好的参照系。架构速览两层抽象基类在动手前先理解 FastGen 的两层抽象这也是本文两条主线的来源抽象层源码位置职责FastGenModelfastgen/methods/model.py训练侧学生网络、教师网络、优化器/调度器、EMA、FSDP 字典、采样可视化FastGenNetworkfastgen/networks/network.py网络侧forward去噪前向、噪声调度器noise schedule、sample推理训练入口 train.py 通过配置中的model_class用LazyCall延迟实例化你的模型随后由 fastgen/trainer.py 在每个迭代调用它的single_train_step。换句话说框架只认这两个接口其余全部交给配置。第一步吃透 FastGenModel 的必实现接口所有方法类都继承FastGenModel定义见 fastgen/methods/model.py#L26-L29。子类必须实现两个抽象方法model.py#L547-L572接口输入返回作用single_train_step(data, iteration)数据字典、迭代号(loss_map, outputs)一个训练步的全部逻辑loss_map中的 key 会直接变成 WB 的曲线名_get_outputs(gen_data, ...)生成数据dict[str, Tensor \| Callable]返回周期性可视化的采样任务如{gen_rand: gen_fn, input_rand: noise}另外三类成员按需重写build_model()基类已帮你用instantiate(config.net)建好学生网络self.netmodel.py#L254-L269需要教师/判别器时在此追加。model_dict/optimizer_dict/fsdp_dict决定哪些网络参与训练与分片多网络方法如 DMD2在这里注册额外优化器。generator_fn/_student_sample_loop基类已提供通用的学生单步/多步采样循环model.py#L375-L480多数方法可直接复用。第二步用 SFT 读懂最小训练模板最简单的参照实现是SFTModelfastgen/methods/fine_tuning/sft.py。它的single_train_step只做了四件事self._prepare_training_data(data)拆出真实数据与条件model.py#L491-L545 已自动处理 I2V/V2V 等特殊条件用net.noise_scheduler.sample_t(...)采样时间步t再用forward_process加噪前向net(noisy_data, t, condition...)得到预测调 fastgen/methods/common_loss.py 里的denoising_score_matching_loss计算损失返回loss_map与outputs。 写新方法时建议直接复制这个文件改——它覆盖了数据、加噪、损失、可视化四条链路几乎没有可以省掉的样板代码。第三步多网络蒸馏方法怎么写以 DMD2 为例真实的蒸馏方法通常不止一个网络。看DMD2Modelfastgen/methods/distribution_matching/dmd2.py的模式即可迁移到 VSD、GAN 蒸馏等算法build_model()先super().build_model()建学生再self.build_teacher()加载冻结的教师model.py#L190-L209随后实例化fake_score从教师权重初始化和判别器交替更新_setup_grad_requirements(iteration)按student_update_freq在更新学生与更新 fake_score/判别器之间切换梯度开关dmd2.py#L67-L77优化器重写init_optimizers/get_optimizers为每个网络各建一个优化器。第四步开发你的 FastGenNetwork 子类如果算法对网络前向有特殊要求如一致性模型需要额外输入时间r就继承FastGenNetworkfastgen/networks/network.py#L13-L88要点说明__init__传入net_pred_typex0/eps/v/flow四选一与schedule_type基类自动挂载noise_schedulerforward(x_t, t, condition, ...)必须实现支持fwd_pred_type参数临时切换预测类型sample(noise, ...)可选实现后_get_outputs才能直接用它做可视化fully_shard(**kwargs)需要 FSDP2 分片时实现逐块调用fully_shardreset_parameters()覆盖时记得super().reset_parameters()以重建噪声调度器噪声调度器已内置 5 种见 fastgen/networks/README.mdschedule_type适用网络edmEDM、EDM2sd/sdxlSD15、SDXLrfRectified FlowFlux、Qwen-Image、Wan、CosmoscogvideoxCogVideoXtrig一致性模型最后在 fastgen/configs/net.py 里仿照EDM_CIFAR10_Config用LazyCall别名L把你的网络参数写成一份DictConfig供配置系统引用。第五步配置注册一行命令开训FastGen 采用 Python 配置体系Hydra OmegaConf attrs详见 fastgen/configs/README.md方法配置新建fastgen/configs/methods/config_xxx.py参照 config_sft.py 定义ModelConfig放你的超参与Config关键是model_class: DictConfig L(YourModel)(configNone)实验配置在fastgen/configs/experiments/模型名/下新建文件调用方法配置的create_config()后填入input_shape、net、数据加载器、预训练权重路径可参考 config_dmd2_test.py启动训练python train.py --configfastgen/configs/experiments/EDM/config_dmd2_test.py命令行还支持 Hydra 风格覆盖任意参数注意-分隔符python train.py --configpath/to/config.py - trainer.max_iter10000 model.net_scheduler.warm_up_steps[0]产出统一落在$FASTGEN_OUTPUT_ROOT/{project}/{group}/{name}/包含checkpoints/、config.yaml复现用与 WB 记录。常见坑与调试技巧先干跑加--dryrun只打印解析后的完整配置不动 GPU最适合检查配置拼写看细节--log_level DEBUG可看到精度、EMA、FSDP 分片的完整日志基类会打印 Model/AMP 精度等 critical 信息⚠️EMA 命名use_ema接受列表名字必须以ema开头否则FastGenModel.__init__直接抛错⚠️损失 key 即曲线名loss_map里写什么WB 上就出现什么指标建议同时保留total_loss⚠️单测自测tests/下有test_sftmodel.py、test_dmd2model.py等按方法划分的测试新方法可照葫芦画瓢加一份小模型上秒级跑通前向反向。总结向 FastGen 添加蒸馏方法的路径非常清晰实现FastGenModel子类两个抽象接口 可选的build_model→ 需要时开发FastGenNetwork子类forward 噪声调度→ 用LazyCall配置注册 →train.py一键训练。得益于框架对 EMA、分布式分片与可视化的统一处理你的精力可以完全放在算法本身——这正是这套方法/网络双层抽象设计的意义所在。赞分享【免费下载链接】FastGenNVIDIA FastGen: Fast Generation from Diffusion Models项目地址https://gitcode.com/gh_mirrors/fastge/FastGen点击查看免费下载相关推荐FastGen 蒸馏方法全景图CM、DMD2、Self-Forcing 等 14 种扩散模型加速方案深度对比FastGen 蒸馏方法全景图CM、DMD2、Self Forcing 等 14 种扩散模型加速方案深度对比 扩散模型生成一张图片或一段视频往往需要几十上百步Zenodo 本地部署与开发环境搭建完整指南基于 Docker Compose 的安装、初始化与源码开发实战Zenodo 本地部署与开发环境搭建完整指南基于 Docker Compose 的安装、初始化与源码开发实战 导读 本文以 Zenodo 仓库的官方安装文档让流放之路角色构建更轻松PoeCharm中文版使用全攻略让流放之路角色构建更轻松PoeCharm中文版使用全攻略 如果你玩过《流放之路》一定体验过角色构建的复杂性——天赋树、装备搭配、技能连接每一个环节都需要精游戏开发上一篇小红书作品批量下载实战XHS-Downloader四种玩法一文讲透下一篇玩转Webamp歌单Track类型与播放列表API完整指南创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 
长河君 · 2026/10/16 9:10:04 · 阅读 1.2k 如何向FastGen添加你的蒸馏方法？FastGenModel抽象接口与网络开发分步教程
【免费下载链接】FastGenNVIDIA FastGen: Fast Generation from Diffusion Models项目地址https://gitcode.com/gh_mirrors/fastge/FastGen点击查看免费下载FastGen 是 NVIDIA 开源的 PyTorch 扩散模型蒸馏框架内置一致性模型、DMD2、Self-Forcing 等单步/少步快速生成方法。本文手把手教你扩展 FastGenModel 抽象接口、实现自定义 FastGenNetwork把你的蒸馏算法接入这套支持 10B 参数规模训练的完整流水线。先认识 FastGen一个可插拔的蒸馏训练框架FastGen 的核心价值在于把蒸馏算法与网络结构彻底解耦——你只需要实现一个方法类和一个网络类训练循环、EMA、DDP/FSDP2 分布式、断点续训、WB 日志全部由框架代劳。能力说明大规模训练支持 ≥10B 参数DDP / FSDP2 开箱即用多模态任务T2I文生图、I2V图生视频、V2V视频编辑内置蒸馏方法CM / sCM / TCM / MeanFlow、DMD2 / f-Distill / LADD / CausVid / Self-Forcing、KD / SFT 等网络覆盖EDM、SD15/SDXL、Flux、Qwen-Image、Wan、CogVideoX、Cosmos 等 方法清单可对照 fastgen/methods/README.md每个方法都附了对应的论文与实现类是扩展新算法时最好的参照系。架构速览两层抽象基类在动手前先理解 FastGen 的两层抽象这也是本文两条主线的来源抽象层源码位置职责FastGenModelfastgen/methods/model.py训练侧学生网络、教师网络、优化器/调度器、EMA、FSDP 字典、采样可视化FastGenNetworkfastgen/networks/network.py网络侧forward去噪前向、噪声调度器noise schedule、sample推理训练入口 train.py 通过配置中的model_class用LazyCall延迟实例化你的模型随后由 fastgen/trainer.py 在每个迭代调用它的single_train_step。换句话说框架只认这两个接口其余全部交给配置。第一步吃透 FastGenModel 的必实现接口所有方法类都继承FastGenModel定义见 fastgen/methods/model.py#L26-L29。子类必须实现两个抽象方法model.py#L547-L572接口输入返回作用single_train_step(data, iteration)数据字典、迭代号(loss_map, outputs)一个训练步的全部逻辑loss_map中的 key 会直接变成 WB 的曲线名_get_outputs(gen_data, ...)生成数据dict[str, Tensor \| Callable]返回周期性可视化的采样任务如{gen_rand: gen_fn, input_rand: noise}另外三类成员按需重写build_model()基类已帮你用instantiate(config.net)建好学生网络self.netmodel.py#L254-L269需要教师/判别器时在此追加。model_dict/optimizer_dict/fsdp_dict决定哪些网络参与训练与分片多网络方法如 DMD2在这里注册额外优化器。generator_fn/_student_sample_loop基类已提供通用的学生单步/多步采样循环model.py#L375-L480多数方法可直接复用。第二步用 SFT 读懂最小训练模板最简单的参照实现是SFTModelfastgen/methods/fine_tuning/sft.py。它的single_train_step只做了四件事self._prepare_training_data(data)拆出真实数据与条件model.py#L491-L545 已自动处理 I2V/V2V 等特殊条件用net.noise_scheduler.sample_t(...)采样时间步t再用forward_process加噪前向net(noisy_data, t, condition...)得到预测调 fastgen/methods/common_loss.py 里的denoising_score_matching_loss计算损失返回loss_map与outputs。 写新方法时建议直接复制这个文件改——它覆盖了数据、加噪、损失、可视化四条链路几乎没有可以省掉的样板代码。第三步多网络蒸馏方法怎么写以 DMD2 为例真实的蒸馏方法通常不止一个网络。看DMD2Modelfastgen/methods/distribution_matching/dmd2.py的模式即可迁移到 VSD、GAN 蒸馏等算法build_model()先super().build_model()建学生再self.build_teacher()加载冻结的教师model.py#L190-L209随后实例化fake_score从教师权重初始化和判别器交替更新_setup_grad_requirements(iteration)按student_update_freq在更新学生与更新 fake_score/判别器之间切换梯度开关dmd2.py#L67-L77优化器重写init_optimizers/get_optimizers为每个网络各建一个优化器。第四步开发你的 FastGenNetwork 子类如果算法对网络前向有特殊要求如一致性模型需要额外输入时间r就继承FastGenNetworkfastgen/networks/network.py#L13-L88要点说明__init__传入net_pred_typex0/eps/v/flow四选一与schedule_type基类自动挂载noise_schedulerforward(x_t, t, condition, ...)必须实现支持fwd_pred_type参数临时切换预测类型sample(noise, ...)可选实现后_get_outputs才能直接用它做可视化fully_shard(**kwargs)需要 FSDP2 分片时实现逐块调用fully_shardreset_parameters()覆盖时记得super().reset_parameters()以重建噪声调度器噪声调度器已内置 5 种见 fastgen/networks/README.mdschedule_type适用网络edmEDM、EDM2sd/sdxlSD15、SDXLrfRectified FlowFlux、Qwen-Image、Wan、CosmoscogvideoxCogVideoXtrig一致性模型最后在 fastgen/configs/net.py 里仿照EDM_CIFAR10_Config用LazyCall别名L把你的网络参数写成一份DictConfig供配置系统引用。第五步配置注册一行命令开训FastGen 采用 Python 配置体系Hydra OmegaConf attrs详见 fastgen/configs/README.md方法配置新建fastgen/configs/methods/config_xxx.py参照 config_sft.py 定义ModelConfig放你的超参与Config关键是model_class: DictConfig L(YourModel)(configNone)实验配置在fastgen/configs/experiments/模型名/下新建文件调用方法配置的create_config()后填入input_shape、net、数据加载器、预训练权重路径可参考 config_dmd2_test.py启动训练python train.py --configfastgen/configs/experiments/EDM/config_dmd2_test.py命令行还支持 Hydra 风格覆盖任意参数注意-分隔符python train.py --configpath/to/config.py - trainer.max_iter10000 model.net_scheduler.warm_up_steps[0]产出统一落在$FASTGEN_OUTPUT_ROOT/{project}/{group}/{name}/包含checkpoints/、config.yaml复现用与 WB 记录。常见坑与调试技巧先干跑加--dryrun只打印解析后的完整配置不动 GPU最适合检查配置拼写看细节--log_level DEBUG可看到精度、EMA、FSDP 分片的完整日志基类会打印 Model/AMP 精度等 critical 信息⚠️EMA 命名use_ema接受列表名字必须以ema开头否则FastGenModel.__init__直接抛错⚠️损失 key 即曲线名loss_map里写什么WB 上就出现什么指标建议同时保留total_loss⚠️单测自测tests/下有test_sftmodel.py、test_dmd2model.py等按方法划分的测试新方法可照葫芦画瓢加一份小模型上秒级跑通前向反向。总结向 FastGen 添加蒸馏方法的路径非常清晰实现FastGenModel子类两个抽象接口 可选的build_model→ 需要时开发FastGenNetwork子类forward 噪声调度→ 用LazyCall配置注册 →train.py一键训练。得益于框架对 EMA、分布式分片与可视化的统一处理你的精力可以完全放在算法本身——这正是这套方法/网络双层抽象设计的意义所在。赞分享【免费下载链接】FastGenNVIDIA FastGen: Fast Generation from Diffusion Models项目地址https://gitcode.com/gh_mirrors/fastge/FastGen点击查看免费下载相关推荐FastGen 蒸馏方法全景图CM、DMD2、Self-Forcing 等 14 种扩散模型加速方案深度对比FastGen 蒸馏方法全景图CM、DMD2、Self Forcing 等 14 种扩散模型加速方案深度对比 扩散模型生成一张图片或一段视频往往需要几十上百步Zenodo 本地部署与开发环境搭建完整指南基于 Docker Compose 的安装、初始化与源码开发实战Zenodo 本地部署与开发环境搭建完整指南基于 Docker Compose 的安装、初始化与源码开发实战 导读 本文以 Zenodo 仓库的官方安装文档让流放之路角色构建更轻松PoeCharm中文版使用全攻略让流放之路角色构建更轻松PoeCharm中文版使用全攻略 如果你玩过《流放之路》一定体验过角色构建的复杂性——天赋树、装备搭配、技能连接每一个环节都需要精游戏开发上一篇小红书作品批量下载实战XHS-Downloader四种玩法一文讲透下一篇玩转Webamp歌单Track类型与播放列表API完整指南创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考