如何快速本地部署Qwen-Image-2512-FP8新手零基础上手文生图推理完整教程想在本地部署 Qwen-Image-2512-FP8并跑通文生图推理吗这份新手零基础教程带你用最短路径完成一个仓库、两步命令、一张图片。Qwen-Image-2512-FP8 是 Unsloth 团队对阿里通义文生图基础模型 Qwen-Image-2512 推出的FP8 / INT8 动态激活量化版本在大幅降低显存占用的同时画质与原版 bf16 模型几乎一致同种子 LPIPS 距离INT8 为 0.029FP8 为 0.109越低越好。这个仓库里有什么本仓库是一个模型权重仓库基于apache-2.0协议开源支持中英文提示词核心内容如下文件说明Qwen-Image-2512-FP8.safetensorsFP8 量化 Transformer 权重safetensors 格式约 20.5 GBQwen-Image-2512-FP8.pt同一权重的.pt格式Qwen-Image-2512-INT8.safetensorsINT8 量化权重约 34.1 GB精度损失更小samples/官方示例图目录FP8 / INT8 各 3 张README.md项目说明文档 量化权重由 torchao 动态激活量化构建加载即推理加载检查点与“现场量化 bf16 模型”逐位一致直接省去了显存翻倍的全量加载 在线量化过程。环境准备硬件与软件要求上手前确认你的机器满足以下条件硬件建议 NVIDIA GPU显存 ≥ 16 GB 可跑 FP8 版本INT8 版本权重更大但推理精度更优纯 CPU 可用 float32 运行速度较慢。软件Python 3.10、PyTorchCUDA 版本、最新版diffusers与torchao。快速获取模型权重一条命令搞定通过 git 克隆仓库即可拿到全部模型文件需安装 git-lfs 才能拉取真实权重git lfs install git clone https://gitcode.com/hf_mirrors/unsloth/Qwen-Image-2512-FP8.git克隆完成后你会得到上面表格中的所有文件。如果显存紧张可以只保留Qwen-Image-2512-FP8.safetensors一个权重文件来节省磁盘空间。安装依赖3 步完成pip install torch torchvision --index-url https://download.pytorch.org/whl/cu121 pip install diffusers[torch] transformers accelerate pip install torchao safetensors注意仓库 README 中给出的pip install githttps://github.com/huggingface/diffusers需要安装最新版 diffusers 才能正确识别 Qwen-Image 系列流水线如果 pip 安装版本偏旧请按官方文档升级。运行推理生成你的第一张图下面的最小示例展示了加载流水线并生成一张 16:9 图片的关键流程完整说明见 README.md 的 Quick Start 章节from diffusers import DiffusionPipeline import torch pipe DiffusionPipeline.from_pretrained( Qwen/Qwen-Image-2512, # 加载模型量化权重可指向本仓库 .pt/.safetensors 文件 torch_dtypetorch.bfloat16 ).to(cuda) image pipe( promptcute sloth typing on a computer, negative_prompt低分辨率低画质肢体畸形手指畸形画面过饱和蜡像感AI感, width1664, height928, # 16:9 num_inference_steps50, true_cfg_scale4.0, generatortorch.Generator(devicecuda).manual_seed(42) ).images[0] image.save(example.png)把model_name换成本仓库路径、并按 torchao 文档加载量化检查点后即可使用 FP8 / INT8 权重推理——这正是本仓库存在的意义。关键参数速查表参数推荐值作用width/height16:9 → 1664×9281:1 → 1328×1328输出尺寸官方支持 7 种常见宽高比num_inference_steps20~50采样步数步数越多细节越好、越慢true_cfg_scale4.0引导强度过高易过饱和negative_prompt见示例排除低画质、畸形手指等常见问题manual_seed任意整数固定种子便于复现与对比FP8 还是 INT8一张表帮你选维度FP8INT8权重大小约 20.5 GB更省显存约 34.1 GB与 bf16 的差异LPIPS0.1090.029几乎无损适用场景显存吃紧、追求速度追求画质、显存充足技术细节e4m3 动态激活量化 torch._scaled_mmper-token 激活 / per-channel 权重量化部分文本投影层保留 bf16 简单记显存选 FP8画质选 INT8。常见问题 FAQQ1加载时报activation_value_lb相关错误请升级到 torchao ≥ 0.13加载器需要 floor 动态激活缩放activation_value_lb1e-12防止全零激活行产生零缩放。Q2.pt和.safetensors两份文件怎么选两者是同一检查点。.pt为torch.loadstate dicttorchao 张量子类携带 qdata 与 scalessafetensors 无法完整表达新环境优先试.safetensorstorchao 0.18 布局加载更安全。Q3没有 NVIDIA 显卡能跑吗可以。CPU 下把torch_dtype改为torch.float32、device设为cuda改cpu即可但生成一张图需要数分钟以上建议配合num_inference_steps20快速验证。小结通过本教程你已掌握 Qwen-Image-2512-FP8 本地部署的完整链路克隆仓库 → 安装 diffusers torchao → 加载量化权重 → 一条 pipe 调用出图。量化版让你在消费级显卡上也能跑起当前开源第一梯队的文生图模型超 1 万轮盲测中位列开源最强下一步可以试试调整宽高比、更换种子或阅读 README.md 了解更多模型能力细节。创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 
长河君 · 2026/11/3 2:35:48 · 阅读 1.2k 如何快速本地部署Qwen-Image-2512-FP8：新手零基础上手文生图推理完整教程
如何快速本地部署Qwen-Image-2512-FP8新手零基础上手文生图推理完整教程想在本地部署 Qwen-Image-2512-FP8并跑通文生图推理吗这份新手零基础教程带你用最短路径完成一个仓库、两步命令、一张图片。Qwen-Image-2512-FP8 是 Unsloth 团队对阿里通义文生图基础模型 Qwen-Image-2512 推出的FP8 / INT8 动态激活量化版本在大幅降低显存占用的同时画质与原版 bf16 模型几乎一致同种子 LPIPS 距离INT8 为 0.029FP8 为 0.109越低越好。这个仓库里有什么本仓库是一个模型权重仓库基于apache-2.0协议开源支持中英文提示词核心内容如下文件说明Qwen-Image-2512-FP8.safetensorsFP8 量化 Transformer 权重safetensors 格式约 20.5 GBQwen-Image-2512-FP8.pt同一权重的.pt格式Qwen-Image-2512-INT8.safetensorsINT8 量化权重约 34.1 GB精度损失更小samples/官方示例图目录FP8 / INT8 各 3 张README.md项目说明文档 量化权重由 torchao 动态激活量化构建加载即推理加载检查点与“现场量化 bf16 模型”逐位一致直接省去了显存翻倍的全量加载 在线量化过程。环境准备硬件与软件要求上手前确认你的机器满足以下条件硬件建议 NVIDIA GPU显存 ≥ 16 GB 可跑 FP8 版本INT8 版本权重更大但推理精度更优纯 CPU 可用 float32 运行速度较慢。软件Python 3.10、PyTorchCUDA 版本、最新版diffusers与torchao。快速获取模型权重一条命令搞定通过 git 克隆仓库即可拿到全部模型文件需安装 git-lfs 才能拉取真实权重git lfs install git clone https://gitcode.com/hf_mirrors/unsloth/Qwen-Image-2512-FP8.git克隆完成后你会得到上面表格中的所有文件。如果显存紧张可以只保留Qwen-Image-2512-FP8.safetensors一个权重文件来节省磁盘空间。安装依赖3 步完成pip install torch torchvision --index-url https://download.pytorch.org/whl/cu121 pip install diffusers[torch] transformers accelerate pip install torchao safetensors注意仓库 README 中给出的pip install githttps://github.com/huggingface/diffusers需要安装最新版 diffusers 才能正确识别 Qwen-Image 系列流水线如果 pip 安装版本偏旧请按官方文档升级。运行推理生成你的第一张图下面的最小示例展示了加载流水线并生成一张 16:9 图片的关键流程完整说明见 README.md 的 Quick Start 章节from diffusers import DiffusionPipeline import torch pipe DiffusionPipeline.from_pretrained( Qwen/Qwen-Image-2512, # 加载模型量化权重可指向本仓库 .pt/.safetensors 文件 torch_dtypetorch.bfloat16 ).to(cuda) image pipe( promptcute sloth typing on a computer, negative_prompt低分辨率低画质肢体畸形手指畸形画面过饱和蜡像感AI感, width1664, height928, # 16:9 num_inference_steps50, true_cfg_scale4.0, generatortorch.Generator(devicecuda).manual_seed(42) ).images[0] image.save(example.png)把model_name换成本仓库路径、并按 torchao 文档加载量化检查点后即可使用 FP8 / INT8 权重推理——这正是本仓库存在的意义。关键参数速查表参数推荐值作用width/height16:9 → 1664×9281:1 → 1328×1328输出尺寸官方支持 7 种常见宽高比num_inference_steps20~50采样步数步数越多细节越好、越慢true_cfg_scale4.0引导强度过高易过饱和negative_prompt见示例排除低画质、畸形手指等常见问题manual_seed任意整数固定种子便于复现与对比FP8 还是 INT8一张表帮你选维度FP8INT8权重大小约 20.5 GB更省显存约 34.1 GB与 bf16 的差异LPIPS0.1090.029几乎无损适用场景显存吃紧、追求速度追求画质、显存充足技术细节e4m3 动态激活量化 torch._scaled_mmper-token 激活 / per-channel 权重量化部分文本投影层保留 bf16 简单记显存选 FP8画质选 INT8。常见问题 FAQQ1加载时报activation_value_lb相关错误请升级到 torchao ≥ 0.13加载器需要 floor 动态激活缩放activation_value_lb1e-12防止全零激活行产生零缩放。Q2.pt和.safetensors两份文件怎么选两者是同一检查点。.pt为torch.loadstate dicttorchao 张量子类携带 qdata 与 scalessafetensors 无法完整表达新环境优先试.safetensorstorchao 0.18 布局加载更安全。Q3没有 NVIDIA 显卡能跑吗可以。CPU 下把torch_dtype改为torch.float32、device设为cuda改cpu即可但生成一张图需要数分钟以上建议配合num_inference_steps20快速验证。小结通过本教程你已掌握 Qwen-Image-2512-FP8 本地部署的完整链路克隆仓库 → 安装 diffusers torchao → 加载量化权重 → 一条 pipe 调用出图。量化版让你在消费级显卡上也能跑起当前开源第一梯队的文生图模型超 1 万轮盲测中位列开源最强下一步可以试试调整宽高比、更换种子或阅读 README.md 了解更多模型能力细节。创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考