Mitsuba 27B完全指南6GB显存跑27B大模型ComfyUI本地提示词生成的终极方案Mitsuba 27BMitsuba_and_HiMitsuba-27B-GGUF是一个三值量化1.58-bit的 27B 本地大模型专为 ComfyUI 提示词生成与图像描述而调优它能把口语化需求转成严格遵守字数、必含词、禁止词和输出格式的 Stable Diffusion / 视频生成提示词还能直接看图写提示词。配合仓库内置的 Windows 一键启动脚本单张 16GB 显卡即可本地运行空闲时显存占用为 0。本文带你完成下载、启动、接入 ComfyUI 的全部步骤。 Mitsuba 27B 是什么先看能力边界Mitsuba 基于 Qwen3.8-27B 官方权重自行三值化不是从其他量化版改的以 Prism ML 的 PQ2_0 / PTQ1_0 GGUF 格式保存明确不用于写代码PQ2_07.3 GB推荐版本PTQ1_06.0 GB同权重的更小文件当前内核下图像识别分略低两者都能在单张 16GB 显卡上运行它擅长什么Stable Diffusion 风格提示词按指定词数输出英文 tag包含必含词、结尾带Negative:行、排除禁止词视频提示词按0-3s: / 3-6s: / 6-9s:时间段分段每段带镜头运动图像描述物体、数量、图中文字、图表、场景、多图对比明确不适合的场景❌写代码编码测试仅 4/100作者明确标注 It is not for coding⚠️ 长文阅读一般48 分⚠️ 原生模型不是无审查版本约一半敏感请求会被拒绝可选 HiMitsuba LoRA 解决见下文 下载与文件清单6GB 模型文件怎么放先 clone 仓库或从仓库页面直接下载文件git clone https://gitcode.com/hf_mirrors/isichan-ai/Mitsuba_and_HiMitsuba-27B-GGUF核心文件如下文件大小说明Mitsuba-ComfyUI-27B-v1.18-PQ2_0.gguf7.32 GB推荐本体Mitsuba-ComfyUI-27B-v1.18-PTQ1_0.gguf6.00 GB同权重的更小文件mmproj-Q8_0.gguf0.63 GB视觉编码器看图功能必备HiMitsuba-Uncensored-LoRA.gguf0.07 GB可选无审查 LoRA仅 PQ2_0 可用硬件要求NVIDIA 显卡AMD 为 beta Windows 10/11模型加载时约 10GB 显存空闲时 0GB16GB 显存的卡足够。 Windows 一键启动Mitsuba ComfyUI 本地部署步骤仓库内置 Mitsuba-Bridge 启动器Mitsuba_bridge.py不向 ComfyUI 或 Windows 安装任何东西文件作用HiMitsuba_start.bat给 AI 应用用OpenAI 兼容 APIHiMitsuba_ComfyUI.bat给 ComfyUI 的 Ollama 节点用HiMitsuba_stop.bat停止并释放全部显存三步跑通保持仓库目录结构不变bat 会自动在../Mitsuba-ComfyUI-27B/Model-v1.18/找模型或把上表文件全部放进同一个文件夹双击对应的.bat。首次运行自动下载 PrismML 版 llama.cpp约 540MBPQ2_0 / PTQ1_0 格式只有它能读和一个小号 Python约 11MB之后几秒即可启动窗口显示 API 地址后在应用或 ComfyUI 里填连接参数见下两节。停止时双击 HiMitsuba_stop.bat 或直接关窗口 启动脚本已自动关闭思考模式、设置 131K 上下文和 q4_0 KV 缓存这些正是官方评测使用的参数。AMD 显卡betaAMD 用户改用 Mitsuba_bridge_AMD/ 下的_AMD.bat系列会下载 HIPRadeon版 llama.cpp约 330MB支持 RDNA4 / RDNA3 / RDNA2RX 9070 / 9060、gfx1030 等。作者尚未在 AMD 实机验证遇到不动时运行 HiMitsuba_diag_AMD.bat 生成诊断报告。AMD 上请用PQ2_0文件并保持 Adrenalin 驱动为最新版。 连接 ComfyUIOllama 节点参数怎么填前提ComfyUI 已安装 Ollama 节点如 comfyui-ollama。双击 HiMitsuba_ComfyUI.bat 后它会额外在http://127.0.0.1:11434启动一个 Ollama 协议桥。在Ollama Connectivity节点填urlhttp://127.0.0.1:11434如果本机真有 Ollama 占用了 11434窗口会打印实际使用的端口填那个modelhimitsuba带 LoRA或mitsuba原生keep_alive推荐0—— 回答完立刻把显存还回去不跟后面的图像生成模型抢显存默认5是闲置 5 分钟后才还 连接 AI 应用OpenAI 兼容接口配置双击 HiMitsuba_start.bat在 OpenCode、Open WebUI、SillyTavern、Continue 等应用里填Base URLhttp://127.0.0.1:8080/v1Modelhimitsuba或mitsubaAPI key任意值如none HiMitsuba 秘三叶可选的无审查 LoRAHiMitsuba-Uncensored-LoRA.gguf70MB是给v1.18 PQ2_0用的可选 LoRAHi秘取自日语隐藏的、私下的。它怎么工作LoRA 自己切换 —— 普通请求提示词、看图描述的答案与原生 Mitsuba 完全一致敏感请求则不再拒绝。它同时针对两种审查形式拒答直接拒绝106 个敏感请求中 51 → 7 次回避看似回答实则绕开要点73% → 32%不需要第二模型、不需要路由器、不需要改系统提示词。手动启动只需把 LoRA 放进与本体同一文件夹再加一个参数--lora-scaled HiMitsuba-Uncensored-LoRA.gguf:1.0⚠️ Windows 下不要写带盘符的完整路径如D:\...gguf:1.0冒号会破坏file:scale语法在模型所在目录启动、只写文件名即可。它也不是什么都答帮助犯罪、武器、伤害他人的请求大多仍会拒绝。实测效果同一套 10 维度测试PQ2_0指标原生 Mitsuba HiMitsuba综合61.5 (B)66.9 (A)无审查度53.289.6提示词全条件通过率6/108/10图像识别87.889.8解码速度 (t/s)119.0103.1显存占用131K 上下文9.5 GB9.5 GB不变ComfyUI 本职工作没变差提示词通过率还提高了代价是速度约 13% 下降、自制心下降工具报错后不重试了。 实测评测Mitsuba 27B 十维度评分解读四款模型同题同条件实测Mitsuba PQ2_0、Mitsuba PTQ1_0、原版 Ternary Bonsai 2 27B PQ2_0以及未量化的 Qwen3.8-27B BF16 作为基准。完整数据见 docs/EVALUATION.md。三值化丢了什么、留了什么❌ 编码66 → 4彻底放弃❌ 长文阅读76 → 48一般水平✅ 图像识别89.8 → 87.8几乎无损✅ 规则遵循84 → 84完全保留✅ 日文与提示词52 → 52完全保留 全条件提示词生成3/10 →6/10反而提升解码速度 119 t/sRTX 5090 实测比 BF16 原版快两个数量级。比素模 Bonsai 强吗配对检验同题相减结论无审查度、正直性占优规则遵循、率直性、日文与提示词、图像识别不劣10 分容忍带自制心、到达率、阅读力在 49~100 题内仍判不出。编码明显更差故未列入图。⚡ 关键设置为什么必须关闭思考模式本模型只在关闭思考reasoning的模式下调过。开启思考后它会重复同样的句子、甚至不写答案就结束。实测PQ2_0指标思考关思考开综合61.553.2图像识别8855规则遵循8460关闭方法llama-server加--reasoning off单次请求chat_template_kwargs: {enable_thinking: false}OpenCode 等 Agent模型设置reasoning: false仓库内的一键脚本已默认关闭。手动启动时参考官方评测命令注意 PQ2_0 / PTQ1_0 必须用 PrismML 版 llama.cppllama-server -m Mitsuba-ComfyUI-27B-v1.18-PQ2_0.gguf --mmproj mmproj-Q8_0.gguf \ --no-mmproj-offload --reasoning off --jinja --temperature 0.6 \ --top-k 20 --top-p 0.95 --ctx-size 131072 --cache-type-k q4_0 \ --cache-type-v q4_0 --n-gpu-layers 99❓ 常见问题 FAQQ能用来写代码吗不能。编码得分仅 4/100作者明确建议不要用于编程请另选模型。Q空闲时占显存吗不占。模型在收到第一个请求时才加载约 10GB闲置时为 0。ComfyUI 场景下把keep_alive设为 0回答完显存立即释放不会和图像生成模型抢显存。QPQ2_0 和 PTQ1_0 选哪个推荐 PQ2_07.3GB。PTQ1_06.0GB是同权重的更小文件但当前 PTQ1_0 内核下图像识别分更低79.6 vs 87.8AMD 上 PTQ1_0 是否可用尚未确认。Q提示词不是 100% 满足条件严格测试约 6~8/10 通过输出前请对照你的条件检查一遍。Q授权协议Apache License 2.0见 docs/LICENSE 与 docs/NOTICE。创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 
长河君 · 2026/10/30 4:45:38 · 阅读 1.2k Mitsuba 27B完全指南：6GB显存跑27B大模型，ComfyUI本地提示词生成的终极方案
Mitsuba 27B完全指南6GB显存跑27B大模型ComfyUI本地提示词生成的终极方案Mitsuba 27BMitsuba_and_HiMitsuba-27B-GGUF是一个三值量化1.58-bit的 27B 本地大模型专为 ComfyUI 提示词生成与图像描述而调优它能把口语化需求转成严格遵守字数、必含词、禁止词和输出格式的 Stable Diffusion / 视频生成提示词还能直接看图写提示词。配合仓库内置的 Windows 一键启动脚本单张 16GB 显卡即可本地运行空闲时显存占用为 0。本文带你完成下载、启动、接入 ComfyUI 的全部步骤。 Mitsuba 27B 是什么先看能力边界Mitsuba 基于 Qwen3.8-27B 官方权重自行三值化不是从其他量化版改的以 Prism ML 的 PQ2_0 / PTQ1_0 GGUF 格式保存明确不用于写代码PQ2_07.3 GB推荐版本PTQ1_06.0 GB同权重的更小文件当前内核下图像识别分略低两者都能在单张 16GB 显卡上运行它擅长什么Stable Diffusion 风格提示词按指定词数输出英文 tag包含必含词、结尾带Negative:行、排除禁止词视频提示词按0-3s: / 3-6s: / 6-9s:时间段分段每段带镜头运动图像描述物体、数量、图中文字、图表、场景、多图对比明确不适合的场景❌写代码编码测试仅 4/100作者明确标注 It is not for coding⚠️ 长文阅读一般48 分⚠️ 原生模型不是无审查版本约一半敏感请求会被拒绝可选 HiMitsuba LoRA 解决见下文 下载与文件清单6GB 模型文件怎么放先 clone 仓库或从仓库页面直接下载文件git clone https://gitcode.com/hf_mirrors/isichan-ai/Mitsuba_and_HiMitsuba-27B-GGUF核心文件如下文件大小说明Mitsuba-ComfyUI-27B-v1.18-PQ2_0.gguf7.32 GB推荐本体Mitsuba-ComfyUI-27B-v1.18-PTQ1_0.gguf6.00 GB同权重的更小文件mmproj-Q8_0.gguf0.63 GB视觉编码器看图功能必备HiMitsuba-Uncensored-LoRA.gguf0.07 GB可选无审查 LoRA仅 PQ2_0 可用硬件要求NVIDIA 显卡AMD 为 beta Windows 10/11模型加载时约 10GB 显存空闲时 0GB16GB 显存的卡足够。 Windows 一键启动Mitsuba ComfyUI 本地部署步骤仓库内置 Mitsuba-Bridge 启动器Mitsuba_bridge.py不向 ComfyUI 或 Windows 安装任何东西文件作用HiMitsuba_start.bat给 AI 应用用OpenAI 兼容 APIHiMitsuba_ComfyUI.bat给 ComfyUI 的 Ollama 节点用HiMitsuba_stop.bat停止并释放全部显存三步跑通保持仓库目录结构不变bat 会自动在../Mitsuba-ComfyUI-27B/Model-v1.18/找模型或把上表文件全部放进同一个文件夹双击对应的.bat。首次运行自动下载 PrismML 版 llama.cpp约 540MBPQ2_0 / PTQ1_0 格式只有它能读和一个小号 Python约 11MB之后几秒即可启动窗口显示 API 地址后在应用或 ComfyUI 里填连接参数见下两节。停止时双击 HiMitsuba_stop.bat 或直接关窗口 启动脚本已自动关闭思考模式、设置 131K 上下文和 q4_0 KV 缓存这些正是官方评测使用的参数。AMD 显卡betaAMD 用户改用 Mitsuba_bridge_AMD/ 下的_AMD.bat系列会下载 HIPRadeon版 llama.cpp约 330MB支持 RDNA4 / RDNA3 / RDNA2RX 9070 / 9060、gfx1030 等。作者尚未在 AMD 实机验证遇到不动时运行 HiMitsuba_diag_AMD.bat 生成诊断报告。AMD 上请用PQ2_0文件并保持 Adrenalin 驱动为最新版。 连接 ComfyUIOllama 节点参数怎么填前提ComfyUI 已安装 Ollama 节点如 comfyui-ollama。双击 HiMitsuba_ComfyUI.bat 后它会额外在http://127.0.0.1:11434启动一个 Ollama 协议桥。在Ollama Connectivity节点填urlhttp://127.0.0.1:11434如果本机真有 Ollama 占用了 11434窗口会打印实际使用的端口填那个modelhimitsuba带 LoRA或mitsuba原生keep_alive推荐0—— 回答完立刻把显存还回去不跟后面的图像生成模型抢显存默认5是闲置 5 分钟后才还 连接 AI 应用OpenAI 兼容接口配置双击 HiMitsuba_start.bat在 OpenCode、Open WebUI、SillyTavern、Continue 等应用里填Base URLhttp://127.0.0.1:8080/v1Modelhimitsuba或mitsubaAPI key任意值如none HiMitsuba 秘三叶可选的无审查 LoRAHiMitsuba-Uncensored-LoRA.gguf70MB是给v1.18 PQ2_0用的可选 LoRAHi秘取自日语隐藏的、私下的。它怎么工作LoRA 自己切换 —— 普通请求提示词、看图描述的答案与原生 Mitsuba 完全一致敏感请求则不再拒绝。它同时针对两种审查形式拒答直接拒绝106 个敏感请求中 51 → 7 次回避看似回答实则绕开要点73% → 32%不需要第二模型、不需要路由器、不需要改系统提示词。手动启动只需把 LoRA 放进与本体同一文件夹再加一个参数--lora-scaled HiMitsuba-Uncensored-LoRA.gguf:1.0⚠️ Windows 下不要写带盘符的完整路径如D:\...gguf:1.0冒号会破坏file:scale语法在模型所在目录启动、只写文件名即可。它也不是什么都答帮助犯罪、武器、伤害他人的请求大多仍会拒绝。实测效果同一套 10 维度测试PQ2_0指标原生 Mitsuba HiMitsuba综合61.5 (B)66.9 (A)无审查度53.289.6提示词全条件通过率6/108/10图像识别87.889.8解码速度 (t/s)119.0103.1显存占用131K 上下文9.5 GB9.5 GB不变ComfyUI 本职工作没变差提示词通过率还提高了代价是速度约 13% 下降、自制心下降工具报错后不重试了。 实测评测Mitsuba 27B 十维度评分解读四款模型同题同条件实测Mitsuba PQ2_0、Mitsuba PTQ1_0、原版 Ternary Bonsai 2 27B PQ2_0以及未量化的 Qwen3.8-27B BF16 作为基准。完整数据见 docs/EVALUATION.md。三值化丢了什么、留了什么❌ 编码66 → 4彻底放弃❌ 长文阅读76 → 48一般水平✅ 图像识别89.8 → 87.8几乎无损✅ 规则遵循84 → 84完全保留✅ 日文与提示词52 → 52完全保留 全条件提示词生成3/10 →6/10反而提升解码速度 119 t/sRTX 5090 实测比 BF16 原版快两个数量级。比素模 Bonsai 强吗配对检验同题相减结论无审查度、正直性占优规则遵循、率直性、日文与提示词、图像识别不劣10 分容忍带自制心、到达率、阅读力在 49~100 题内仍判不出。编码明显更差故未列入图。⚡ 关键设置为什么必须关闭思考模式本模型只在关闭思考reasoning的模式下调过。开启思考后它会重复同样的句子、甚至不写答案就结束。实测PQ2_0指标思考关思考开综合61.553.2图像识别8855规则遵循8460关闭方法llama-server加--reasoning off单次请求chat_template_kwargs: {enable_thinking: false}OpenCode 等 Agent模型设置reasoning: false仓库内的一键脚本已默认关闭。手动启动时参考官方评测命令注意 PQ2_0 / PTQ1_0 必须用 PrismML 版 llama.cppllama-server -m Mitsuba-ComfyUI-27B-v1.18-PQ2_0.gguf --mmproj mmproj-Q8_0.gguf \ --no-mmproj-offload --reasoning off --jinja --temperature 0.6 \ --top-k 20 --top-p 0.95 --ctx-size 131072 --cache-type-k q4_0 \ --cache-type-v q4_0 --n-gpu-layers 99❓ 常见问题 FAQQ能用来写代码吗不能。编码得分仅 4/100作者明确建议不要用于编程请另选模型。Q空闲时占显存吗不占。模型在收到第一个请求时才加载约 10GB闲置时为 0。ComfyUI 场景下把keep_alive设为 0回答完显存立即释放不会和图像生成模型抢显存。QPQ2_0 和 PTQ1_0 选哪个推荐 PQ2_07.3GB。PTQ1_06.0GB是同权重的更小文件但当前 PTQ1_0 内核下图像识别分更低79.6 vs 87.8AMD 上 PTQ1_0 是否可用尚未确认。Q提示词不是 100% 满足条件严格测试约 6~8/10 通过输出前请对照你的条件检查一遍。Q授权协议Apache License 2.0见 docs/LICENSE 与 docs/NOTICE。创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考