这次我们来看一个自制角色类模型的本地部署预览案例。项目标题叫“自制艾莉模型预览”核心内容可以理解为自己微调或训练了一个名为“艾莉”的角色风格模型然后把它放进本地推理环境里跑通、预览效果、验证可用性。很多人在模型训练阶段投入了大量时间却在部署预览阶段卡住不知道模型文件能不能被 WebUI 或 ComfyUI 正确加载不知道出图质量稳不稳定也不知道后续能不能批量出图、能不能对外提供 API 服务。这篇文章就围绕“自制模型怎么预览、怎么验证、怎么接到自己的工具链里”展开。如果你是刚拿到模型文件的开发者下面这套流程可以直接套用如果模型文件还在训练阶段没导出也可以先按文章里的环境准备思路把推理环境搭好。文章不会假设你已经有一套完整的部署平台而是从零开始讲先看模型文件有什么再选加载工具然后启动 WebUI 或 ComfyUI最后做功能测试、批量测试和接口调用。整个过程不依赖具体的显卡型号凡是涉及显存占用、启动速度、接口地址的部分都会明确区分“材料已知”和“需要按实际环境测试”避免给大家错误的预期。1. 核心能力速览能力项说明项目类型自制角色风格模型LoRA / Checkpoint用于预览和本地部署模型文件常见为 .safetensors、.ckpt 等具体需按实际项目确认主要功能模型加载、文生图、图生图、批量预览、接口调用推理工具WebUI 或 ComfyUI二选一即可取决于项目工作流启动方式命令行启动 WebUI / ComfyUI或通过一键脚本启动显存需求取决于模型规格和推理参数建议先小分辨率、少步数测试CPU 推理部分工具支持但速度较慢有 NVIDIA GPU 时优先走 CUDA接口 API如果项目暴露了 HTTP API可参考本文通用调用模板批量任务支持通过脚本或 WebUI 批量出图需要设计输入输出目录适合场景自制模型效果验证、角色风格预览、本地小规模出图、接口集成测试从材料看这个项目没有一个非常明确的仓库地址或官方文档所以要把握一个原则先做最小验证再扩展功能。不要一上来就追求复杂的批量流水线而是先把单张图跑通确认模型能加载、提示词能生效、输出不是乱图然后才去考虑接口和批量任务。2. 适用场景与使用边界2.1 适合谁自制模型预览这件事最适合三类人模型训练者刚训练完 LoRA 或 Checkpoint需要快速确认模型在不同提示词下的表现判断有没有过拟合、有没有风格漂移。本地工具集成者想让自制模型成为自己工具链的一部分比如给内部系统加一个图像生成接口或者做一个内部素材预览站点。内容创作者想用自制模型稳定产出同一角色的图像素材需要在正式批量使用前做一轮效果测试。2.2 能解决什么问题模型文件拿到手之后不知道往哪里放、用什么工具加载。WebUI 启动后黑屏、模型列表里看不到文件、出图报显存不足。想批量生成 10 张或 50 张预览图但手动一张一张点太慢。想让其他程序调用自制模型但不知道接口怎么设计、参数怎么传。生成了图不知道怎么判断质量没有一个可量化的验证流程。2.3 不适合什么场景不适合大规模生产环境。自制模型预览本质上是验证和调试阶段如果想要在线对外提供服务建议先做性能压测、并发控制和资源隔离。不适合涉及未经授权的真实人物肖像、版权角色素材。如果“艾莉”这个名字、形象或参考图来自已有作品需要确认素材授权。不适合对出图速度有极致要求的场景。本地推理速度取决于显卡不是所有机器都能达到秒级出图。2.4 合规与安全边界这里必须专门强调一下。自制角色模型如果使用了真实人物面部、特定品牌形象、受版权保护的动画角色、他人作品截图都要先获得合法授权。文章后面所有测试流程默认使用的是你有授权或自己创作的角色素材。另外模型文件本身也可能包含第三方训练数据二次分发前要看清楚来源和许可协议不要把来源不明的模型放到公网服务里。3. 环境准备与前置条件3.1 操作系统从普遍实践来看Windows 和 Linux 都可以跑。Windows 下集成包多双击启动脚本就能进入 WebUILinux 服务器更适合跑 API 服务和批量任务。如果你部署在服务器上注意要装一个轻量桌面环境或者直接用无头模式否则 WebUI 不方便访问。3.2 GPU 与驱动自制模型推理优先考虑 NVIDIA GPU因为主流推理工具对 CUDA 的支持最成熟。AMD 显卡和纯 CPU 环境也能跑但性能和兼容性要单独确认。部署前先检查驱动和 CUDA 是否可用nvidia-smi如果命令提示找不到说明驱动没装好。如果显示了显卡型号和驱动版本再检查 PyTorch 是否能调用 GPUpython -c import torch; print(torch.cuda.is_available())输出为 True 说明 PyTorch 能识别显卡。这一步能避免很多“能启动但出图特别慢”的坑。3.3 Python 与依赖管理建议新建一个独立环境不要直接装在系统 Python 里免得依赖冲突。常见的做法是用 conda 或 venvconda create -n aili_preview python3.10 -y conda activate aili_previewPython 版本、PyTorch 版本、CUDA 版本需要匹配。更稳妥的判断是先看模型训练时用的 PyTorch 版本推理环境尽量保持一致避免出现算子不兼容的问题。3.4 磁盘空间模型文件本身可能从几百 MB 到几个 GB 不等WebUI 或 ComfyUI 的依赖也会占几个 GB再加上输出图片和临时文件建议预留 20GB 以上可用空间。如果还要把模型转成其他格式或做模型融合空间需求会更大。3.5 端口规划WebUI 默认端口通常是 7860ComfyUI 默认端口通常是 8188具体要以实际项目为准。如果端口被占用启动时可以用参数指定新端口。建议部署前先看下端口状态netstat -ano | findstr :7860Linux 下用ss -lntp | grep 7860端口污染是本地部署最常见的问题之一提前确认能省很多时间。4. 安装部署与启动方式4.1 WebUI 方式如果你的自制模型本身是一个 WebUI 风格的 Checkpoint 或 LoRA最容易上手的预览方式是用 Stable Diffusion WebUI。WebUI 会把模型文件放到指定目录启动后就能在界面里切换到你的模型。通用启动流程# 进入 WebUI 项目目录 cd stable-diffusion-webui # 启动脚本Windows 下一般是 webui.batLinux 下是 webui.sh python launch.py --listen --port 7860 --xformersWindows 直接双击webui.bat也可以但如果你想指定端口还是要用命令行。启动日志里如果出现“Running on local URL: http://127.0.0.1:7860”这类信息就说明服务起来了。手机或局域网其他设备访问需要加--listen参数。注意这样做会把服务暴露到局域网建议只在可信网络里使用。4.2 ComfyUI 方式如果项目的工作流是以节点方式组织的比如用了自定义 ControlNet 流程、多模型融合、LoRA 堆叠ComfyUI 更合适。ComfyUI 的启动命令大致如下cd ComfyUI python main.py --listen 127.0.0.1 --port 8188启动后浏览器打开http://127.0.0.1:8188会看到节点编辑界面。ComfyUI 的优势是可以把工作流保存成 JSON 文件下次直接拖进去就能复现非常适合批量预览和流程复用。4.3 一键脚本与模型目录很多自制模型项目会附带一键启动脚本作用通常是检查 Python 版本、创建虚拟环境、安装依赖、移动模型文件、启动服务。如果你拿到的项目有一键脚本先执行它再用命令行手动启动作为备用方案。不要只依赖一键脚本因为一旦脚本里封装的依赖版本冲突你很难排查。模型文件要放到工具能识别的位置。WebUI 的常规目录结构大致如下models/ Stable-diffusion/ 自制艾莉模型.safetensors Lora/ 艾莉_lora.safetensors VAE/ 模型配套的VAE文件.binComfyUI 的目录结构类似只是模型目录可能叫models/checkpoints和models/loras。放对目录后在 WebUI 顶部模型下拉框或 ComfyUI 的 Load Checkpoint 节点里就能看到自己的模型。4.4 启动后验证服务启动后先不要急着跑复杂任务。第一步确认模型下拉框里能看到自制模型而不是只有默认模型。点击模型切换后没有报错。用最简单的提示词生成一张 512x512 的图确认输出不是黑图或纯色图。如果模型没出现在列表里优先检查文件后缀和目录位置很多情况不是模型坏了而是放错目录。5. 功能测试与效果验证5.1 基础文生图测试测试目的确认模型能正常出图且提示词对输出有影响。操作步骤在 WebUI 的提示词输入框里写一个明确的描述例如“1girl, portrait, detailed face, soft lighting”。反向提示词可以简单写“lowres, bad anatomy, bad hands”。采样器选一个常见的比如 Euler a 或 DPM 2M。步数从 20 步开始分辨率先设 512x512批次数量 1。点击生成并观察日志。预期结果输出一张符合提示词大致内容的图片。日志里能看到类似“100%|████████| 20/20”的进度条且没有红色报错。WebUI 的图片预览区出现新图。判断标准如果图能出来说明模型和推理链路基本没问题。如果图全黑或一团模糊可能需要检查 VAE 是否缺失、提示词是否有语法问题、模型是否损坏。常见失败原因显存不足报错信息里出现CUDA out of memory。模型文件损坏加载时报Error loading state dict。VAE 缺失导致颜色异常这时需要补 VAE 文件。5.2 不同提示词下的风格一致性测试自制角色模型的关键指标是在不同提示词下角色身份是否保持稳定。所以第二项测试不是只测一张图而是准备 5 到 10 组提示词覆盖不同景别、不同动作、不同光线。示例测试集序号提示词方向测试目的1半身像、正面确认五官是否稳定2全身照、站姿确认全身构图会不会崩3侧面角度确认侧面脸型是否保持4夜景、霓虹灯确认复杂光照下风格是否漂移5俯视视角确认透视变化后角色是否变形这里有一个经验如果角色模型过拟合换一个非常不同的提示词后人物可能完全变成训练集中的固定表情如果欠拟合提示词稍微一变角色就不像了。测试的关键是记录每组提示词的种子值方便复现和对比。5.3 图生图测试测试目的确认自制模型能配合参考图做二次编辑。操作步骤切换到图生图模式。上传一张测试图可以是你自己生成的一张角色图。提示词写目标效果比如改变背景或改变服装。重绘幅度从 0.4 开始太高容易改变角色身份。生成并对比原图与结果。预期结果输出图保留原图的主体结构同时在提示词要求的维度上发生变化。角色五官没有明显崩坏。判断标准如果重绘幅度设到 0.7 以上仍然能保持角色一致说明模型的特征保留能力不错。如果 0.4 就已经让角色完全变样说明模型对细节的约束较弱后续可以通过 ControlNet 辅助。5.4 LoRA 叠加测试如果自制模型是 LoRA还需要测试和底模的叠加效果。不同底模对 LoRA 的兼容性差异很大同一个 LoRA 在写实底模和二次元底模上的表现可能完全不同。测试方式固定 LoRA 权重为 0.8。分别切换几个常见底模生成同一组提示词。对比角色相似度和画面风格。这样做的目的是找到最适合这个 LoRA 的底模组合。如果某个底模下角色完全不像不要先怀疑模型坏了优先换底模再测一次。6. 接口 API 调用与批量预览6.1 API 服务启用很多本地推理工具会自带 HTTP API。以 WebUI 为例启动时已经包含了 API 入口常见地址是http://127.0.0.1:7860/sdapi/v1/txt2img。ComfyUI 也有访问/prompt或通过 WebSocket 提交工作流的接口。具体路径要以实际项目文档为准这里给的是一个通用调用思路。如果项目没有自带 API可以写一个非常简单的 Python 封装调用命令行工具生成图片再把输出文件路径回传给调用方。这种方式实现简单但并发能力弱只适合个人工具或内部小范围使用。6.2 Python 调用示例下面这个脚本是一个通用模板适用于大多数 HTTP 方式暴露的文生图接口。使用前需要根据实际项目的接口字段名调整不要直接复制就跑。import requests import base64 from pathlib import Path url http://127.0.0.1:7860/sdapi/v1/txt2img payload { prompt: 1girl, portrait, detailed face, soft lighting, negative_prompt: lowres, bad anatomy, bad hands, steps: 20, width: 512, height: 512, batch_size: 1, seed: 42 } response requests.post(url, jsonpayload, timeout180) data response.json() if images not in data: print(调用失败返回内容, data) else: for idx, img_b64 in enumerate(data[images]): img_bytes base64.b64decode(img_b64) out_path Path(f./outputs/preview_{idx}.png) out_path.write_bytes(img_bytes) print(f已保存: {out_path})这段代码做的事情很直接发送生成请求、接收 base64 图片、解码写入本地文件。测试时如果返回超时可以把timeout调大因为本地推理可能比较慢。6.3 curl 调用示例如果你不想写 Python 脚本也可以用 curl 做一次快速接口验证curl -X POST http://127.0.0.1:7860/sdapi/v1/txt2img \ -H Content-Type: application/json \ -d { prompt: 1girl, portrait, steps: 20, width: 512, height: 512 } \ -o response.json返回的 JSON 会包含 base64 编码的图片数据可以用 Python 或 jq 解析。注意不要直接把响应文本当成图片打开因为原始响应不是图片文件。6.4 批量预览任务设计批量预览是自制模型验证中最常做的事情。建议用目录结构管理任务work/ input_prompts/ test_1.json test_2.json output_images/ test_1_00001.png test_1_00002.png logs/ batch_20250101.log批量脚本的核心逻辑是读取一批提示词文件逐条调用 API把结果图片保存到单独目录同时记录日志。一个简单的 Python 流程import json import requests import base64 import time from pathlib import Path api_url http://127.0.0.1:7860/sdapi/v1/txt2img input_dir Path(./work/input_prompts) output_dir Path(./work/output_images) output_dir.mkdir(parentsTrue, exist_okTrue) for prompt_file in sorted(input_dir.glob(*.json)): with open(prompt_file, r, encodingutf-8) as f: cfg json.load(f) payload { prompt: cfg[prompt], negative_prompt: cfg.get(negative_prompt, ), steps: cfg.get(steps, 20), width: cfg.get(width, 512), height: cfg.get(height, 512), batch_size: cfg.get(batch_size, 1), } try: resp requests.post(api_url, jsonpayload, timeout300) resp.raise_for_status() data resp.json() for idx, img_b64 in enumerate(data[images]): img_bytes base64.b64decode(img_b64) out_file output_dir / f{prompt_file.stem}_{idx:05d}.png out_file.write_bytes(img_bytes) print(f[OK] {out_file}) except Exception as e: print(f[FAIL] {prompt_file.name}: {e}) time.sleep(1)批量任务里最容易遇到的问题就是跑了一半接口报显存不足或者某个提示词触发了异常。所以脚本里一定要加异常捕获还要记录哪一组成功、哪一组失败。6.5 失败重试与日志批量任务建议实现两层重试单张图片失败时当前请求自动重试 2 到 3 次每次间隔 5 秒。整个批次失败时把失败的提示词文件复制到failed/目录方便修完参数后单独补跑。日志至少要记录任务名、请求参数、状态码、耗时、输出文件路径。没有日志的批量任务一旦跑崩排查会非常痛苦。7. 资源占用与性能观察7.1 怎么观察显存占用推荐用nvidia-smi动态观察。在另一个终端窗口执行watch -n 1 nvidia-smi生成图片的过程中显存占用会升高生成结束后会回落。如果显存一直很高且不释放说明可能存在内存泄漏批量跑久了需要重启服务。7.2 影响性能的关键参数分辨率分辨率从 512 升到 1024显存占用和耗时并不是简单翻倍实际增幅更明显。步数20 步和 40 步的耗时差距明显但画质不一定是线性提升很多模型 20 到 30 步已经够用。batch_size一次性生成 4 张图显存占用会显著增加但总耗时不一定比跑 4 次单张更快具体要看显卡。ControlNet如果工作流里加载了 ControlNet显存占用会明显增加。长提示词提示词特别长时Tokenizer 编码和 CrossAttention 的计算量也会增加。7.3 CPU 与 GPU 推理差异同一模型在 CPU 上也能跑通但速度差距很大。如果是 512x512、20 步的图GPU 可能只要几秒到十几秒CPU 可能要几分钟甚至更久。CPU 推理适合做功能验证不适合批量生产。如果你的机器是 A 卡或核显可以考虑用支持相应后端的整合包但要提前确认算子兼容性。7.4 如何降低显存占用开启 xformers 或--medvram、--lowvram等优化参数具体取决于启动工具。降低分辨率先用 512x512 测试。减少 batch_size。关闭不需要的插件和 ControlNet 单元。不用时切换回“无模型加载”状态或者重启服务释放显存。从实际经验看显存不足往往是参数叠加造成的而不是单点问题。简单粗暴地关掉优化参数再试经常会有意想不到的效果。8. 常见问题与排查方法问题现象可能原因排查方式解决方案启动后网页打不开端口被占用或服务未启动检查启动日志、检查端口监听换端口重启或杀掉占用进程模型列表里看不到自制模型模型文件放错目录检查模型目录结构移动到正确目录后刷新加载模型时报错模型文件损坏或依赖不匹配查看完整报错堆栈重新下载模型或对齐环境版本出图全黑VAE 缺失或提示词问题检查是否加载了 VAE手动指定 VAE 文件或调整提示词显存不足参数过高或显存本来不够查看 nvidia-smi 占用降低分辨率、步数、batch_size出图速度非常慢没有使用 GPU 或驱动异常检查 torch.cuda.is_available()安装匹配的 CUDA 版 PyTorchAPI 调用超时推理耗时过长或请求排队查看服务日志调大 timeout、减少并发批量任务中途卡住单张图片生成异常查看输出目录和日志加异常捕获和失败重试角色在不同提示词下不稳定模型泛化能力不足对比不同种子和提示词补训练数据或使用 ControlNet 辅助依赖安装失败也是高频问题。可以尝试换镜像源pip install -i https://pypi.tuna.tsinghua.edu.cn/simple 包名如果安装的是 PyTorch建议直接用官方给出的当前 CUDA 版本对应命令不要盲目装最新版。9. 最佳实践与使用建议9.1 第一次先小参数测试拿到自制模型后不要直接跑高分辨率大 batch。第一轮建议512x512、20 步、batch_size 1、单张测试。跑通之后再逐步加参数每一步都确认输出正常。9.2 保留一套最小可运行配置把能成功出图的提示词、采样器、步数、模型路径记录下来写成一份配置或工作流文件。这样以后即使换机器、换环境也能快速恢复出图效果。9.3 目录管理要规范模型文件、输入提示词、输出图片、日志分开存放。批量任务使用脚本生成带时间戳的输出目录不要把所有图片堆在一个文件夹里。9.4 接口服务只监听本机如果不是必要不要用--listen 0.0.0.0暴露服务。如果一定要局域网访问建议加访问密码或放在可信内网。涉及公网部署时更要做一层接口鉴权。9.5 涉及角色和版权素材时必须确认授权自制角色模型如果来自某个作品或者训练数据里包含他人作品预览可以但二次分发和商用之前必须拿到授权。这个点很重要不要等到发布后才处理。9.6 批量任务要加日志和失败重试批量任务不是一次性就能跑完的。批次大小、接口超时、显存上限都会影响成功率。给任务加上断点续跑能力哪些成功、哪些失败、失败原因是什么都要记录清楚。9.7 发布或商用前做效果复核预览阶段看到的效果只是小样本结果。如果要做成品建议把不同提示词、不同种子的输出汇总成一张对照图逐张复核。角色模型最容易出现的问题不是“不能看”而是“在极端提示词下意外崩坏”只有批量测试才能暴露这种问题。10. 总结与下一步自制艾莉模型这类项目最值得尝试的地方就在于你可以完全掌控从模型文件到出图结果的全过程。它不依赖外部厂商接口模型在自己手里提示词、采样参数、底模搭配都可以自由调整。最先应该验证的功能不是复杂的工作流而是最基础的单张文生图确认模型能加载、能出图、角色不崩。最容易踩的坑集中在三个地方模型文件放错目录导致识别不到、显存参数设置过高导致推理失败、批量任务缺少日志导致失败后难以定位。下一步可以考虑的方向是把成功率稳定的提示词整理成一个模板库再通过 API 把模型接进团队内部工具如果要提升复杂构图下的角色一致性可以引入 ControlNet 或角色参考节点用同一个参考图约束生成结果。整个流程跑通之后自制模型就不再只是一堆训练产物而是一套可以持续迭代的内容生产能力。建议先把这篇文章里的最小验证流程跑一遍确认单张出图没问题再决定是否往批量任务和 API 方向深入。 
长河君 · 2026/8/31 14:51:57 · 阅读 1.2k 自制角色模型本地部署预览：从WebUI加载到API调用全流程
这次我们来看一个自制角色类模型的本地部署预览案例。项目标题叫“自制艾莉模型预览”核心内容可以理解为自己微调或训练了一个名为“艾莉”的角色风格模型然后把它放进本地推理环境里跑通、预览效果、验证可用性。很多人在模型训练阶段投入了大量时间却在部署预览阶段卡住不知道模型文件能不能被 WebUI 或 ComfyUI 正确加载不知道出图质量稳不稳定也不知道后续能不能批量出图、能不能对外提供 API 服务。这篇文章就围绕“自制模型怎么预览、怎么验证、怎么接到自己的工具链里”展开。如果你是刚拿到模型文件的开发者下面这套流程可以直接套用如果模型文件还在训练阶段没导出也可以先按文章里的环境准备思路把推理环境搭好。文章不会假设你已经有一套完整的部署平台而是从零开始讲先看模型文件有什么再选加载工具然后启动 WebUI 或 ComfyUI最后做功能测试、批量测试和接口调用。整个过程不依赖具体的显卡型号凡是涉及显存占用、启动速度、接口地址的部分都会明确区分“材料已知”和“需要按实际环境测试”避免给大家错误的预期。1. 核心能力速览能力项说明项目类型自制角色风格模型LoRA / Checkpoint用于预览和本地部署模型文件常见为 .safetensors、.ckpt 等具体需按实际项目确认主要功能模型加载、文生图、图生图、批量预览、接口调用推理工具WebUI 或 ComfyUI二选一即可取决于项目工作流启动方式命令行启动 WebUI / ComfyUI或通过一键脚本启动显存需求取决于模型规格和推理参数建议先小分辨率、少步数测试CPU 推理部分工具支持但速度较慢有 NVIDIA GPU 时优先走 CUDA接口 API如果项目暴露了 HTTP API可参考本文通用调用模板批量任务支持通过脚本或 WebUI 批量出图需要设计输入输出目录适合场景自制模型效果验证、角色风格预览、本地小规模出图、接口集成测试从材料看这个项目没有一个非常明确的仓库地址或官方文档所以要把握一个原则先做最小验证再扩展功能。不要一上来就追求复杂的批量流水线而是先把单张图跑通确认模型能加载、提示词能生效、输出不是乱图然后才去考虑接口和批量任务。2. 适用场景与使用边界2.1 适合谁自制模型预览这件事最适合三类人模型训练者刚训练完 LoRA 或 Checkpoint需要快速确认模型在不同提示词下的表现判断有没有过拟合、有没有风格漂移。本地工具集成者想让自制模型成为自己工具链的一部分比如给内部系统加一个图像生成接口或者做一个内部素材预览站点。内容创作者想用自制模型稳定产出同一角色的图像素材需要在正式批量使用前做一轮效果测试。2.2 能解决什么问题模型文件拿到手之后不知道往哪里放、用什么工具加载。WebUI 启动后黑屏、模型列表里看不到文件、出图报显存不足。想批量生成 10 张或 50 张预览图但手动一张一张点太慢。想让其他程序调用自制模型但不知道接口怎么设计、参数怎么传。生成了图不知道怎么判断质量没有一个可量化的验证流程。2.3 不适合什么场景不适合大规模生产环境。自制模型预览本质上是验证和调试阶段如果想要在线对外提供服务建议先做性能压测、并发控制和资源隔离。不适合涉及未经授权的真实人物肖像、版权角色素材。如果“艾莉”这个名字、形象或参考图来自已有作品需要确认素材授权。不适合对出图速度有极致要求的场景。本地推理速度取决于显卡不是所有机器都能达到秒级出图。2.4 合规与安全边界这里必须专门强调一下。自制角色模型如果使用了真实人物面部、特定品牌形象、受版权保护的动画角色、他人作品截图都要先获得合法授权。文章后面所有测试流程默认使用的是你有授权或自己创作的角色素材。另外模型文件本身也可能包含第三方训练数据二次分发前要看清楚来源和许可协议不要把来源不明的模型放到公网服务里。3. 环境准备与前置条件3.1 操作系统从普遍实践来看Windows 和 Linux 都可以跑。Windows 下集成包多双击启动脚本就能进入 WebUILinux 服务器更适合跑 API 服务和批量任务。如果你部署在服务器上注意要装一个轻量桌面环境或者直接用无头模式否则 WebUI 不方便访问。3.2 GPU 与驱动自制模型推理优先考虑 NVIDIA GPU因为主流推理工具对 CUDA 的支持最成熟。AMD 显卡和纯 CPU 环境也能跑但性能和兼容性要单独确认。部署前先检查驱动和 CUDA 是否可用nvidia-smi如果命令提示找不到说明驱动没装好。如果显示了显卡型号和驱动版本再检查 PyTorch 是否能调用 GPUpython -c import torch; print(torch.cuda.is_available())输出为 True 说明 PyTorch 能识别显卡。这一步能避免很多“能启动但出图特别慢”的坑。3.3 Python 与依赖管理建议新建一个独立环境不要直接装在系统 Python 里免得依赖冲突。常见的做法是用 conda 或 venvconda create -n aili_preview python3.10 -y conda activate aili_previewPython 版本、PyTorch 版本、CUDA 版本需要匹配。更稳妥的判断是先看模型训练时用的 PyTorch 版本推理环境尽量保持一致避免出现算子不兼容的问题。3.4 磁盘空间模型文件本身可能从几百 MB 到几个 GB 不等WebUI 或 ComfyUI 的依赖也会占几个 GB再加上输出图片和临时文件建议预留 20GB 以上可用空间。如果还要把模型转成其他格式或做模型融合空间需求会更大。3.5 端口规划WebUI 默认端口通常是 7860ComfyUI 默认端口通常是 8188具体要以实际项目为准。如果端口被占用启动时可以用参数指定新端口。建议部署前先看下端口状态netstat -ano | findstr :7860Linux 下用ss -lntp | grep 7860端口污染是本地部署最常见的问题之一提前确认能省很多时间。4. 安装部署与启动方式4.1 WebUI 方式如果你的自制模型本身是一个 WebUI 风格的 Checkpoint 或 LoRA最容易上手的预览方式是用 Stable Diffusion WebUI。WebUI 会把模型文件放到指定目录启动后就能在界面里切换到你的模型。通用启动流程# 进入 WebUI 项目目录 cd stable-diffusion-webui # 启动脚本Windows 下一般是 webui.batLinux 下是 webui.sh python launch.py --listen --port 7860 --xformersWindows 直接双击webui.bat也可以但如果你想指定端口还是要用命令行。启动日志里如果出现“Running on local URL: http://127.0.0.1:7860”这类信息就说明服务起来了。手机或局域网其他设备访问需要加--listen参数。注意这样做会把服务暴露到局域网建议只在可信网络里使用。4.2 ComfyUI 方式如果项目的工作流是以节点方式组织的比如用了自定义 ControlNet 流程、多模型融合、LoRA 堆叠ComfyUI 更合适。ComfyUI 的启动命令大致如下cd ComfyUI python main.py --listen 127.0.0.1 --port 8188启动后浏览器打开http://127.0.0.1:8188会看到节点编辑界面。ComfyUI 的优势是可以把工作流保存成 JSON 文件下次直接拖进去就能复现非常适合批量预览和流程复用。4.3 一键脚本与模型目录很多自制模型项目会附带一键启动脚本作用通常是检查 Python 版本、创建虚拟环境、安装依赖、移动模型文件、启动服务。如果你拿到的项目有一键脚本先执行它再用命令行手动启动作为备用方案。不要只依赖一键脚本因为一旦脚本里封装的依赖版本冲突你很难排查。模型文件要放到工具能识别的位置。WebUI 的常规目录结构大致如下models/ Stable-diffusion/ 自制艾莉模型.safetensors Lora/ 艾莉_lora.safetensors VAE/ 模型配套的VAE文件.binComfyUI 的目录结构类似只是模型目录可能叫models/checkpoints和models/loras。放对目录后在 WebUI 顶部模型下拉框或 ComfyUI 的 Load Checkpoint 节点里就能看到自己的模型。4.4 启动后验证服务启动后先不要急着跑复杂任务。第一步确认模型下拉框里能看到自制模型而不是只有默认模型。点击模型切换后没有报错。用最简单的提示词生成一张 512x512 的图确认输出不是黑图或纯色图。如果模型没出现在列表里优先检查文件后缀和目录位置很多情况不是模型坏了而是放错目录。5. 功能测试与效果验证5.1 基础文生图测试测试目的确认模型能正常出图且提示词对输出有影响。操作步骤在 WebUI 的提示词输入框里写一个明确的描述例如“1girl, portrait, detailed face, soft lighting”。反向提示词可以简单写“lowres, bad anatomy, bad hands”。采样器选一个常见的比如 Euler a 或 DPM 2M。步数从 20 步开始分辨率先设 512x512批次数量 1。点击生成并观察日志。预期结果输出一张符合提示词大致内容的图片。日志里能看到类似“100%|████████| 20/20”的进度条且没有红色报错。WebUI 的图片预览区出现新图。判断标准如果图能出来说明模型和推理链路基本没问题。如果图全黑或一团模糊可能需要检查 VAE 是否缺失、提示词是否有语法问题、模型是否损坏。常见失败原因显存不足报错信息里出现CUDA out of memory。模型文件损坏加载时报Error loading state dict。VAE 缺失导致颜色异常这时需要补 VAE 文件。5.2 不同提示词下的风格一致性测试自制角色模型的关键指标是在不同提示词下角色身份是否保持稳定。所以第二项测试不是只测一张图而是准备 5 到 10 组提示词覆盖不同景别、不同动作、不同光线。示例测试集序号提示词方向测试目的1半身像、正面确认五官是否稳定2全身照、站姿确认全身构图会不会崩3侧面角度确认侧面脸型是否保持4夜景、霓虹灯确认复杂光照下风格是否漂移5俯视视角确认透视变化后角色是否变形这里有一个经验如果角色模型过拟合换一个非常不同的提示词后人物可能完全变成训练集中的固定表情如果欠拟合提示词稍微一变角色就不像了。测试的关键是记录每组提示词的种子值方便复现和对比。5.3 图生图测试测试目的确认自制模型能配合参考图做二次编辑。操作步骤切换到图生图模式。上传一张测试图可以是你自己生成的一张角色图。提示词写目标效果比如改变背景或改变服装。重绘幅度从 0.4 开始太高容易改变角色身份。生成并对比原图与结果。预期结果输出图保留原图的主体结构同时在提示词要求的维度上发生变化。角色五官没有明显崩坏。判断标准如果重绘幅度设到 0.7 以上仍然能保持角色一致说明模型的特征保留能力不错。如果 0.4 就已经让角色完全变样说明模型对细节的约束较弱后续可以通过 ControlNet 辅助。5.4 LoRA 叠加测试如果自制模型是 LoRA还需要测试和底模的叠加效果。不同底模对 LoRA 的兼容性差异很大同一个 LoRA 在写实底模和二次元底模上的表现可能完全不同。测试方式固定 LoRA 权重为 0.8。分别切换几个常见底模生成同一组提示词。对比角色相似度和画面风格。这样做的目的是找到最适合这个 LoRA 的底模组合。如果某个底模下角色完全不像不要先怀疑模型坏了优先换底模再测一次。6. 接口 API 调用与批量预览6.1 API 服务启用很多本地推理工具会自带 HTTP API。以 WebUI 为例启动时已经包含了 API 入口常见地址是http://127.0.0.1:7860/sdapi/v1/txt2img。ComfyUI 也有访问/prompt或通过 WebSocket 提交工作流的接口。具体路径要以实际项目文档为准这里给的是一个通用调用思路。如果项目没有自带 API可以写一个非常简单的 Python 封装调用命令行工具生成图片再把输出文件路径回传给调用方。这种方式实现简单但并发能力弱只适合个人工具或内部小范围使用。6.2 Python 调用示例下面这个脚本是一个通用模板适用于大多数 HTTP 方式暴露的文生图接口。使用前需要根据实际项目的接口字段名调整不要直接复制就跑。import requests import base64 from pathlib import Path url http://127.0.0.1:7860/sdapi/v1/txt2img payload { prompt: 1girl, portrait, detailed face, soft lighting, negative_prompt: lowres, bad anatomy, bad hands, steps: 20, width: 512, height: 512, batch_size: 1, seed: 42 } response requests.post(url, jsonpayload, timeout180) data response.json() if images not in data: print(调用失败返回内容, data) else: for idx, img_b64 in enumerate(data[images]): img_bytes base64.b64decode(img_b64) out_path Path(f./outputs/preview_{idx}.png) out_path.write_bytes(img_bytes) print(f已保存: {out_path})这段代码做的事情很直接发送生成请求、接收 base64 图片、解码写入本地文件。测试时如果返回超时可以把timeout调大因为本地推理可能比较慢。6.3 curl 调用示例如果你不想写 Python 脚本也可以用 curl 做一次快速接口验证curl -X POST http://127.0.0.1:7860/sdapi/v1/txt2img \ -H Content-Type: application/json \ -d { prompt: 1girl, portrait, steps: 20, width: 512, height: 512 } \ -o response.json返回的 JSON 会包含 base64 编码的图片数据可以用 Python 或 jq 解析。注意不要直接把响应文本当成图片打开因为原始响应不是图片文件。6.4 批量预览任务设计批量预览是自制模型验证中最常做的事情。建议用目录结构管理任务work/ input_prompts/ test_1.json test_2.json output_images/ test_1_00001.png test_1_00002.png logs/ batch_20250101.log批量脚本的核心逻辑是读取一批提示词文件逐条调用 API把结果图片保存到单独目录同时记录日志。一个简单的 Python 流程import json import requests import base64 import time from pathlib import Path api_url http://127.0.0.1:7860/sdapi/v1/txt2img input_dir Path(./work/input_prompts) output_dir Path(./work/output_images) output_dir.mkdir(parentsTrue, exist_okTrue) for prompt_file in sorted(input_dir.glob(*.json)): with open(prompt_file, r, encodingutf-8) as f: cfg json.load(f) payload { prompt: cfg[prompt], negative_prompt: cfg.get(negative_prompt, ), steps: cfg.get(steps, 20), width: cfg.get(width, 512), height: cfg.get(height, 512), batch_size: cfg.get(batch_size, 1), } try: resp requests.post(api_url, jsonpayload, timeout300) resp.raise_for_status() data resp.json() for idx, img_b64 in enumerate(data[images]): img_bytes base64.b64decode(img_b64) out_file output_dir / f{prompt_file.stem}_{idx:05d}.png out_file.write_bytes(img_bytes) print(f[OK] {out_file}) except Exception as e: print(f[FAIL] {prompt_file.name}: {e}) time.sleep(1)批量任务里最容易遇到的问题就是跑了一半接口报显存不足或者某个提示词触发了异常。所以脚本里一定要加异常捕获还要记录哪一组成功、哪一组失败。6.5 失败重试与日志批量任务建议实现两层重试单张图片失败时当前请求自动重试 2 到 3 次每次间隔 5 秒。整个批次失败时把失败的提示词文件复制到failed/目录方便修完参数后单独补跑。日志至少要记录任务名、请求参数、状态码、耗时、输出文件路径。没有日志的批量任务一旦跑崩排查会非常痛苦。7. 资源占用与性能观察7.1 怎么观察显存占用推荐用nvidia-smi动态观察。在另一个终端窗口执行watch -n 1 nvidia-smi生成图片的过程中显存占用会升高生成结束后会回落。如果显存一直很高且不释放说明可能存在内存泄漏批量跑久了需要重启服务。7.2 影响性能的关键参数分辨率分辨率从 512 升到 1024显存占用和耗时并不是简单翻倍实际增幅更明显。步数20 步和 40 步的耗时差距明显但画质不一定是线性提升很多模型 20 到 30 步已经够用。batch_size一次性生成 4 张图显存占用会显著增加但总耗时不一定比跑 4 次单张更快具体要看显卡。ControlNet如果工作流里加载了 ControlNet显存占用会明显增加。长提示词提示词特别长时Tokenizer 编码和 CrossAttention 的计算量也会增加。7.3 CPU 与 GPU 推理差异同一模型在 CPU 上也能跑通但速度差距很大。如果是 512x512、20 步的图GPU 可能只要几秒到十几秒CPU 可能要几分钟甚至更久。CPU 推理适合做功能验证不适合批量生产。如果你的机器是 A 卡或核显可以考虑用支持相应后端的整合包但要提前确认算子兼容性。7.4 如何降低显存占用开启 xformers 或--medvram、--lowvram等优化参数具体取决于启动工具。降低分辨率先用 512x512 测试。减少 batch_size。关闭不需要的插件和 ControlNet 单元。不用时切换回“无模型加载”状态或者重启服务释放显存。从实际经验看显存不足往往是参数叠加造成的而不是单点问题。简单粗暴地关掉优化参数再试经常会有意想不到的效果。8. 常见问题与排查方法问题现象可能原因排查方式解决方案启动后网页打不开端口被占用或服务未启动检查启动日志、检查端口监听换端口重启或杀掉占用进程模型列表里看不到自制模型模型文件放错目录检查模型目录结构移动到正确目录后刷新加载模型时报错模型文件损坏或依赖不匹配查看完整报错堆栈重新下载模型或对齐环境版本出图全黑VAE 缺失或提示词问题检查是否加载了 VAE手动指定 VAE 文件或调整提示词显存不足参数过高或显存本来不够查看 nvidia-smi 占用降低分辨率、步数、batch_size出图速度非常慢没有使用 GPU 或驱动异常检查 torch.cuda.is_available()安装匹配的 CUDA 版 PyTorchAPI 调用超时推理耗时过长或请求排队查看服务日志调大 timeout、减少并发批量任务中途卡住单张图片生成异常查看输出目录和日志加异常捕获和失败重试角色在不同提示词下不稳定模型泛化能力不足对比不同种子和提示词补训练数据或使用 ControlNet 辅助依赖安装失败也是高频问题。可以尝试换镜像源pip install -i https://pypi.tuna.tsinghua.edu.cn/simple 包名如果安装的是 PyTorch建议直接用官方给出的当前 CUDA 版本对应命令不要盲目装最新版。9. 最佳实践与使用建议9.1 第一次先小参数测试拿到自制模型后不要直接跑高分辨率大 batch。第一轮建议512x512、20 步、batch_size 1、单张测试。跑通之后再逐步加参数每一步都确认输出正常。9.2 保留一套最小可运行配置把能成功出图的提示词、采样器、步数、模型路径记录下来写成一份配置或工作流文件。这样以后即使换机器、换环境也能快速恢复出图效果。9.3 目录管理要规范模型文件、输入提示词、输出图片、日志分开存放。批量任务使用脚本生成带时间戳的输出目录不要把所有图片堆在一个文件夹里。9.4 接口服务只监听本机如果不是必要不要用--listen 0.0.0.0暴露服务。如果一定要局域网访问建议加访问密码或放在可信内网。涉及公网部署时更要做一层接口鉴权。9.5 涉及角色和版权素材时必须确认授权自制角色模型如果来自某个作品或者训练数据里包含他人作品预览可以但二次分发和商用之前必须拿到授权。这个点很重要不要等到发布后才处理。9.6 批量任务要加日志和失败重试批量任务不是一次性就能跑完的。批次大小、接口超时、显存上限都会影响成功率。给任务加上断点续跑能力哪些成功、哪些失败、失败原因是什么都要记录清楚。9.7 发布或商用前做效果复核预览阶段看到的效果只是小样本结果。如果要做成品建议把不同提示词、不同种子的输出汇总成一张对照图逐张复核。角色模型最容易出现的问题不是“不能看”而是“在极端提示词下意外崩坏”只有批量测试才能暴露这种问题。10. 总结与下一步自制艾莉模型这类项目最值得尝试的地方就在于你可以完全掌控从模型文件到出图结果的全过程。它不依赖外部厂商接口模型在自己手里提示词、采样参数、底模搭配都可以自由调整。最先应该验证的功能不是复杂的工作流而是最基础的单张文生图确认模型能加载、能出图、角色不崩。最容易踩的坑集中在三个地方模型文件放错目录导致识别不到、显存参数设置过高导致推理失败、批量任务缺少日志导致失败后难以定位。下一步可以考虑的方向是把成功率稳定的提示词整理成一个模板库再通过 API 把模型接进团队内部工具如果要提升复杂构图下的角色一致性可以引入 ControlNet 或角色参考节点用同一个参考图约束生成结果。整个流程跑通之后自制模型就不再只是一堆训练产物而是一套可以持续迭代的内容生产能力。建议先把这篇文章里的最小验证流程跑一遍确认单张出图没问题再决定是否往批量任务和 API 方向深入。