
text-generation-webui 模型下载一条命令拉取 HuggingFace 模型【免费下载链接】textgenOpen-source desktop app for local LLMs. Text, vision, tool-calling, OpenAI/Anthropic-compatible API. 100% private.项目地址: https://gitcode.com/GitHub_Trending/te/textgentext-generation-webui 自带 download-model.py 脚本自动完成从 HuggingFace 下载模型、挑选格式、规划存储目录和校验文件这几件事。想部署本地 LLM 的人clone 完仓库后几分钟就能把模型文件准备好。一条命令下载第一个模型把仓库拿到本地然后跑一条命令git clone https://gitcode.com/GitHub_Trending/te/text-generation-webui cd text-generation-webui python download-model.py facebook/opt-1.3b前两行获取项目第三行开始下载模型。它会列出 HuggingFace 仓库里的文件挑好格式在user_data/models下建一个以仓库名命名的子目录把需要的文件全部拉下来。完成后启动 WebUIModel 标签页里就能看到新模型直接加载即可。脚本对格式的处理是自动的仓库里同时有 pytorch 格式.bin和 safetensors 时只保留 safetensors纯 GGUF 仓库在不指定具体文件时只挑 Q4_K_M 这个量化版本识别出 LoRAadapter 文件时会改存到user_data/loras。切换模型与调整下载参数换模型时只需替换命令里的仓库名其余逻辑不变。最常用的两个参数--threads控制并行下载的文件数默认 4仓库大、网络好时可以调高python download-model.py TheBloke/Llama-2-13B-chat-GGUF --threads 8仓库特别大时用--specific-file指定只要某一个文件或用--exclude-pattern传正则排除不需要的文件两者可组合。完整参数说明看 download-model.py 源码 或跑python download-model.py --help。下载位置、断点续传与文件校验默认模型存在user_data/models。想改位置就加--output /你的路径--model-dir和--user-data-dir能做更细的覆盖。网络中断不用管重跑同一条下载命令就会从已下载的字节处接着传不会从头再来。想丢弃残文件重新下加--clean参数。下完可以校验每个文件的 sha256官方文档里有这个用法见 Additional Tipspython download-model.py facebook/galactica-125m --check单文件下载失败会自动重试默认上限 7 次仍然失败可用--max-retries调高。模型下载常见问题GGUF 模型具体存在哪单个.gguf文件直接放在user_data/models根目录多文件模型放在以仓库名命名的子目录里。受控gated模型能下吗提前配好 HuggingFace 令牌就行脚本会自动读取 huggingface_hub 的登录状态或HF_TOKEN环境变量。只能连 HuggingFace 官方源吗是但可以用HF_ENDPOINT环境变量换源站。模型文件就位后这个项目还能延伸出 OpenAI/Anthropic 兼容 API、工具调用、图像理解等玩法。下一步直接跑python server.py --api浏览器打开 http://127.0.0.1:7860在 Model 标签页确认模型已加载。【免费下载链接】textgenOpen-source desktop app for local LLMs. Text, vision, tool-calling, OpenAI/Anthropic-compatible API. 100% private.项目地址: https://gitcode.com/GitHub_Trending/te/textgen创作声明:本文部分内容由AI辅助生成(AIGC),仅供参考