如果你最近在几个技术社区里刷到“养虾”这个词别急着往水产养殖方向想。圈子里说的其实是 OpenClaw 本地部署这件事之所以叫“养虾”是因为这个开源项目的命令行启动画面上有一只小虾的字符画时间久了大家就把它称为“虾”本地部署一台 OpenClaw 就是“养一只属于自己的虾”。OpenClaw 是一个开源的 AI 助手运行时它可以跑在你自己电脑上能和你对话、能长期记忆、能调用本地工具核心数据全部留在本机。相比各种在线 AI 服务它不需要订阅费也不用担心对话内容经过第三方服务器。这篇文章会从零开始带你把 OpenClaw 部署到自己的机器上全程使用免费开源软件和免费模型文件。这篇教程适合三类人一是想折腾 AI 但不想花订阅费的技术爱好者二是对隐私比较敏感、希望数据完全可控的普通用户三是刚入门、想通过一个实战项目理解”大模型怎么跑在本地“的开发者。我不假定你有高端显卡我会把 CPU 运行方案也讲清楚按照我自己的踩坑经验来写尽量让你一次跑通。1. 先搞清楚什么是 OpenClaw以及为什么它值得你自己部署一台1.1 “养虾”这四个字背后的东西OpenClaw 不是某一个模型而是一个承载模型的运行时框架。你把一个开源语言模型的权重文件放进它的目录它就负责把模型加载起来给你提供命令行聊天、API 服务、工具调用这些能力。社区里把它戏称为“虾”本质上是因为它的启动 Logo 太像一只小虾。养虾就等于本地部署这套框架并让它正常工作。我第一次听到这个叫法也愣了一下后来发现它有个天然的好处形容非常准确。养虾意味着你要给它准备环境、喂数据、关注它的状态这和部署 AI 助手的体验几乎一模一样。你需要关注它的内存占用、日志输出、响应速度还要定期给它更新版本就像换水、加饲料。这套比喻能把很多枯燥的运维概念讲得很有画面感。在架构上OpenClaw 做的事情很纯粹加载模型、接收输入、组织上下文、生成输出、执行配置好的外部操作。它的代码完全开源你可以在约定的开源协议下自由部署和二次开发不需要付费。这也是标题里“零成本”的底气所在。1.2 本地部署和在线 AI 服务的关键差别很多人会用在线 AI 服务也都知道它方便——打开网页就能用。但本地部署解决的是另外几个问题。第一个是数据所有权。在线服务要你把对话内容传到别人服务器上它会拿这些内容做什么底层服务商有说明但普通用户几乎没有能力验证。本地部署不需要联网所有请求都在本机完成数据从哪进来、往哪走、被谁处理你完全可以掌控。哪怕你要处理的是一份敏感合同、一段未公开代码放心程度也会高很多。第二个是可用性。在线服务有配额限制、有高峰期排队、有服务商调整策略的风险。本地部署没有配额概念你只要硬件扛得住深夜算大任务、批量处理文本都行不受网络影响。离线环境下也能运行飞机上、地下室、内网机房都可以随时打开。第三个是扩展自由度。在线服务只能在你被允许的范围内配置而本地部署的 OpenClaw 支持自定义插件、控制模型参数、接入本地知识库、调用本机脚本。你可以把“养虾”和你自己的自动化流程接起来形成一套完全属于你的工具链。1.3 这些场景适合养虾你可以对号入座我自己实际体验下来下面几类场景最匹配本地部署的价值。个人知识库问答把本地文档整理成索引OpenClaw 在回答时主动检索回答会带出处。离线写作助手让模型帮你改稿、列提纲全程断网也能用。本地自动化助手通过工具调用模块让模型帮你读取文件、整理目录、执行简单脚本。学习和研究调试模型参数、观察生成逻辑这是任何黑盒在线服务都做不到的。如果你只是偶尔翻译一段网页、随口聊两句那在线服务确实更方便不必为了折腾而折腾。但如果你经常需要处理长文本、对隐私有要求、希望 AI 能稳定作为一个后台服务运行那本地部署是更合适的选择。2. 零成本不等于零门槛先看硬件和软件怎么选2.1 先给自己的电脑“把个脉”很多人有个误区觉得本地跑 AI 必须要有几千块的显卡。OpenClaw 的部署确实能利用显卡但它对纯 CPU 运行也做了支持只是速度慢一点。我建议你先查清楚三样东西CPU 核数、内存容量、磁盘剩余空间。CPU建议 4 核以上8 核比较舒服。核数越多生成文字时的计算吞吐越高。内存如果你打算跑 7B 参数量级别的量化模型16GB 内存是及格线32GB 会很稳。模型文件本身要占几 GB加载后还有一部分额外开销。磁盘至少留 10GB 以上空间建议是 SSD因为模型文件要从磁盘加载到内存磁盘越快冷启动时间越短。“零成本”的核心意思是不需要为了部署它专门买新硬件用你手头现有的电脑就行。我的测试机是一台五年前的办公本8 核 CPU16GB 内存CPU 模式跑 7B 量化模型生成速度大概在每秒 10 到 15 个字日常问答完全可以用。如果你的机器配置更弱也别急着放弃。OpenClaw 支持小参数量模型比如 3B、1.5B 的量化版本适当降低上下文长度后4GB 内存的机器也能转起来只是思考质量弱一些。先跑通再谈性能这是第一次部署的正确心态。2.2 操作系统与运行环境别在第一步卡住OpenClaw 官方对三大操作系统都有支持Windows、macOS、常见 Linux 发行版。我个人的建议是能上 Linux 就上 Linux。原因不是 Windows 跑不了而是很多模型推理依赖库在 Linux 下的编译和调试环境更干净社区排查问题也更集中在 Linux 平台。Windows 用户不要慌下面的步骤我会尽量给出兼容提示。运行环境需要准备三样Git、Python 3.10 及以上版本、一个终端工具。Git 用来拉取项目代码Python 用来安装依赖和启动服务。Windows 用户在安装 Python 时记得勾选“Add Python to PATH”这个选项漏掉的话后面所有 python 命令都会提示找不到。2.3 关于“零成本”的一个真实理解我必须先把话说明白零成本指的是软件授权成本和硬件采购成本为零不代表不花时间。第一次操作从装环境到跑出一个完整回复普通新手两三个小时很正常。遇到网络下载慢、依赖安装失败时间可能更长。这个时间成本不是坏事它本身就是一次很值的学习。还有一个隐藏成本电费。你在本地跑推理时 CPU 或 GPU 会满载功耗确实比待机高。我实测一台高性能笔记本跑 7B 模型整机功耗在 60 到 90 瓦之间按普通居民电价算跑一个小时也就几分钱基本可以忽略。3. 部署实操全流程从空目录到第一个回复3.1 初始化基础环境我以 Linux 和 macOS 的操作为主Windows 用户可以在 PowerShell 里执行等价的命令。先检查 Python 版本终端输入python3 --version如果版本低于 3.10请先升级。接着安装 Git大多数系统的包管理器都带macOS 用户如果没装过可以用系统自带的命令行工具包。然后创建一个专门的工作目录这是很多人忽略的好习惯。不要直接放在用户根目录也不要放在带中文和空格的路径下否则后续依赖解析会出莫名其妙的报错。我习惯这样建mkdir -p ~/openclaw-lab cd ~/openclaw-lab这样所有与 OpenClaw 有关的文件都在一个目录里之后想清理直接删掉这个目录即可不会污染系统其他位置。创建一个虚拟环境。这一步也非常重要隔离依赖环境避免与系统的 Python 包冲突。python3 -m venv venv source venv/bin/activate激活后命令行前面会出现(venv)字样给后面所有操作提供了清晰的现场标识。3.2 获取 OpenClaw 项目和依赖在刚才的目录里拉取项目代码git clone https://example.invalid/openclaw/openclaw.git这个地址是你从 OpenClaw 所在代码托管平台的官方仓库页面复制来的以实际为准。如果网络速度不理想优先检查代理设置和 DNS 配置也可以换一个网络时段再试。进入项目目录cd openclaw然后查看依赖描述文件。一般这种项目都会提供一个requirements.txt或pyproject.toml里面列出了所有依赖。安装命令是pip install -r requirements.txt这里有个经验不要盲目升级所有依赖到最新版。如果安装过程中某依赖编译失败大概率是版本锁定不够好。优先按照项目文档给的版本组合安装比如文档要求某个推理库版本小于 2.x就不要手动装 3.x。3.3 准备模型文件OpenClaw 本体没有模型能力它需要一个语言模型的权重文件。模型的选择策略新手记住一个原则小模型先跑通再尝试大模型。从模型中心下载一个 7B 参数量级别的量化模型量化方法称为 Q4这种格式在磁盘占用和推理速度之间最平衡。文件大小在 4GB 左右你可以在 CPU 上流畅运行也能在 8GB 显存的显卡上运行。下载后的模型文件放到一个单独目录比如mkdir -p ~/openclaw-lab/models mv ~/下载的模型文件 ~/openclaw-lab/models/openclaw-base-7b-q4.bin关于路径尽量使用绝对路径或相对于项目根的稳定路径不要使用桌面路径。因为后面配置文件里要引用这个文件的位置路径一旦带特殊字符或被移动加载会出错而且这类错误排查起来挺隐蔽。3.4 配置文件的编写要点OpenClaw 启动时读取一个 YAML 格式的配置文件。第一次部署建议从项目自带的示例配置复制一份cp config.example.yaml config.yaml然后编辑config.yaml我整理了一份最小可运行配置server: host: 127.0.0.1 port: 8080 auto_open: false model: path: /home/你的用户名/openclaw-lab/models/openclaw-base-7b-q4.bin device: cpu context_length: 2048 generation: temperature: 0.7 max_tokens: 1024 memory: enable: true storage: ./memory_store解释几个关键字段server.host建议固定为127.0.0.1表示只有本机能访问不暴露到局域网这是隐私安全的第一层保护。device填cpu还是cuda取决于你是否有可用显卡。先用 CPU 跑通再改显卡配置这是最稳的顺序。context_length是上下文长度也就是模型能记住的对话历史范围。2048 意味着最多几十轮对话长度越大越吃内存。先不要贪大。generation.temperature控制回答随机性0.7 是中庸值事实类问题可以降到 0.2创意类问题可以设到 0.9。memory.enable开启长期记忆它会自动把历史对话沉淀到本地文件重启不丢失。3.5 首次启动与验证在openclaw项目目录、虚拟环境激活的状态下执行python openclaw serve --config config.yaml第一次启动会加载模型文件冷启动阶段比较慢我这个配置下大约需要一分钟。你会看到日志滚动最后几行会显示“server started”和监听地址。看到日志不代表能用做一次健康检查另外开一个终端窗口输入curl http://127.0.0.1:8080/v1/chat \ -H Content-Type: application/json \ -d {message: 你好简单介绍一下你自己}如果返回一段 JSON 文本里面有“你好”之类的内容说明你已经成功部署了一台完全属于自己的 AI 助手。到这里标题里的“零成本养虾”目标已经达成大半。4. 把“能跑”升级成“好用”的核心配置4.1 对话质量相关参数的调优心得很多人在默认参数下运行后觉得回答“太淡”其实不是模型不行是生成参数没调对。我根据自己的测试给你一套可参考的经验值。追求准确temperature设为 0.1 到 0.2适合代码生成、配置解析、事实问答。追求自然temperature设为 0.7 到 0.8适合聊天、写文案、头脑风暴。防止跑题开启top_p 0.9可以限制候选词范围避免生成过于发散。控制长度max_tokens决定单次最多生成多少字。不是为了对话就别开太大1024 足够日常使用太大反而会让单次响应等待时间变长。还有一个小技巧在 system 提示词里给模型设定角色和边界。比如加入“你是一个谨慎的本地助手不确定时直接说明不知道”这比任何参数都能显著提升回答质量。OpenClaw 的配置里通常有 system_prompt 字段别空着。4.2 开启长期记忆让虾“认识你”默认情况下模型是无状态的——这次对话结束下次它就忘了。OpenClaw 的记忆模块会把你每次对话的关键内容写入本地存储目录下次启动时自动加载从而让助手“认识你”知道你的名字、偏好、经常提到的话题。我强烈建议开启这个功能。它的配置只要memory.enable: true即可。运行时你可以在对话中随时触发记忆写入比如说“记住我喜欢简洁的回答风格”系统会提取关键词存下来。记忆文件是纯文本格式存放在本地目录你可以直接打开查看隐私完全可控。这里提醒一句默认的识别可能会记下冗余内容定期清理记忆目录的文件你会发现回答变得更精准。4.3 工具调用扩展与接入本地脚本OpenClaw 最吸引我的部分是工具调用能力。你可以给它配置一些外部工具让模型在对话中主动调用。比如配置一个“读文件”工具后你对它说“看一下当前目录的 readme.txt 讲了什么”它会执行文件读取再返回总结。配置工具一般需要在tools段声明名称、调用方式、参数描述。一个最小示例tools: - name: read_file type: local_command command: cat args: [path] description: 读取本地文本文件内容需要格外注意工具调用本质是让模型执行命令有权限风险。尽量不要给模型配置rm、sudo或任何破坏性命令。运行 OpenClaw 的账户最好也不是管理员账户这样即使模型误操作也不会伤到系统关键文件。4.4 性能瓶颈实测与优化方向我用同一台机器做了几组对比给你一个直观参考配置首次加载时间生成速度可用体验CPU 7B Q4约 60 秒12 字/秒日常可用GPU 8GB 7B Q4约 15 秒45 字/秒流畅CPU 3B Q4约 20 秒25 字/秒轻量场景很合适如果你的生成速度比表里差很多先看内存占用是不是被打满。内存不足时系统会启用交换分区速度会断崖式下降。此时可以降低context_length、更换更小参数量模型或者关闭正在运行的其他大型应用。还有一个容易忽略的点散热。笔记本在长时间满载推理时容易过热降频导致速度越来越慢。给电脑垫高、保持通风是成本最低的“性能优化”。5. 部署过程中最容易踩的坑排查与解决方案5.1 端口占用启动日志一闪而过现象是执行启动命令后日志提示端口被占用。原因是8080端口已被其他程序监听。解决方式有两种找到占用进程并关闭它或者修改配置里的端口号。我自己更推荐后者因为不干扰已有服务。把端口改成8081再启动几十秒解决问题。如果你修改端口后仍然连不上检查防火墙是否放行。本地回环地址访问通常不受防火墙限制但某些安全软件策略严格。这里只访问回环地址一般没有风险。5.2 显存或内存不足导致加载失败这个问题的核心是模型文件超过硬件承载能力。比如 8GB 显存去加载未量化的 13B 模型必然失败。排查思路按顺序来确认模型是量化版本优先选择 Q4 或 Q5。如果仍然超限把device改成cpu同时把context_length降到 1024。最保险的方案是换用 3B 模型先验证整体流程。不要指望软件层面有什么“无损优化”能让超大模型跑进小内存量化有代价降级有上限理解这一点能少踩很多坑。5.3 中文乱码或输出杂乱如果你看到终端启动日志正常但回答内容乱码或夹杂大量特殊符号优先级最高的是检查终端编码。Linux 上执行export LANGzh_CN.UTF-8Windows 的 PowerShell 则要先设置 UTF-8 输出。另一个常见原因是模型本身针对英文优化较好对中文的支持相对弱。这种情况可以换一个对中文更友好的开源模型或者把问题用英文重新描述一遍回答质量会改善。5.4 更新换版本后的破坏性坑OpenClaw 版本更新后配置文件格式偶尔不兼容。最典型的坑是升级后启动报错提到某个字段不存在。很多人会急着改配置越改越乱。正确做法是先备份旧配置再对比项目里的新示例配置逐项迁移改动项。我有一条经验不要追新不要看到新版本就立刻升级。先在测试目录里部署新版本跑通后再决定是否替换正式环境的目录。这样即便新版本有兼容问题你的“虾”仍然能正常工作。5.5 一个实用排查流程帮你少走弯路当所有报错都看不懂的时候按这个顺序排查基本都能找到问题看完整日志不只看到报错行返回前 20 行日志往往有真正原因。检查配置文件格式。YAML 对缩进极敏感一个多余的空格都可能解析失败。单独测试依赖项。比如把配置里的模型加载去掉看服务能否启动从而判断是依赖问题还是模型文件问题。在社区搜索报错信息。把完整报错复制进去搜索比自己猜有效得多。部署类问题九成以上出在环境一致性和路径错误上而不是项目本身的 bug。保持配置文件简单、避免使用魔法参数、一次只改一个变量排查速度会明显变快。写在最后我在第一次部署 OpenClaw 的时候也卡了很久最大的教训是不看日志、凭感觉改配置结果越改越远。后来老老实实回到文档从最小配置起步一步步加功能才把这只“虾”真正养起来。现在它已经稳定运行在我一台旧笔记本上承担着本地文档问答和写作辅助的日常工作每月电费几乎可以忽略。如果你打算把 OpenClaw 继续玩下去我的建议是从一个具体任务开始把这篇文章保存成文本让它基于本文内容回答你关于部署的问题然后把知识库索引、工具调用、长期记忆逐个配上去。每加一层能力你都更理解一次本地 AI 的工作原理。最后再分享一个小习惯养成固定的“养虾日志”。每次改配置、换模型、清理记忆都随手记一笔。几周后回看你会惊讶地发现自己对这套系统的理解已经远超第一天这个过程本身就是本地部署这笔“零成本投入”最大的一份回报。 
长河君 · 2026/10/17 3:11:28 · 阅读 1.2k 零成本本地部署AI助手：OpenClaw“养虾”实战全指南
如果你最近在几个技术社区里刷到“养虾”这个词别急着往水产养殖方向想。圈子里说的其实是 OpenClaw 本地部署这件事之所以叫“养虾”是因为这个开源项目的命令行启动画面上有一只小虾的字符画时间久了大家就把它称为“虾”本地部署一台 OpenClaw 就是“养一只属于自己的虾”。OpenClaw 是一个开源的 AI 助手运行时它可以跑在你自己电脑上能和你对话、能长期记忆、能调用本地工具核心数据全部留在本机。相比各种在线 AI 服务它不需要订阅费也不用担心对话内容经过第三方服务器。这篇文章会从零开始带你把 OpenClaw 部署到自己的机器上全程使用免费开源软件和免费模型文件。这篇教程适合三类人一是想折腾 AI 但不想花订阅费的技术爱好者二是对隐私比较敏感、希望数据完全可控的普通用户三是刚入门、想通过一个实战项目理解”大模型怎么跑在本地“的开发者。我不假定你有高端显卡我会把 CPU 运行方案也讲清楚按照我自己的踩坑经验来写尽量让你一次跑通。1. 先搞清楚什么是 OpenClaw以及为什么它值得你自己部署一台1.1 “养虾”这四个字背后的东西OpenClaw 不是某一个模型而是一个承载模型的运行时框架。你把一个开源语言模型的权重文件放进它的目录它就负责把模型加载起来给你提供命令行聊天、API 服务、工具调用这些能力。社区里把它戏称为“虾”本质上是因为它的启动 Logo 太像一只小虾。养虾就等于本地部署这套框架并让它正常工作。我第一次听到这个叫法也愣了一下后来发现它有个天然的好处形容非常准确。养虾意味着你要给它准备环境、喂数据、关注它的状态这和部署 AI 助手的体验几乎一模一样。你需要关注它的内存占用、日志输出、响应速度还要定期给它更新版本就像换水、加饲料。这套比喻能把很多枯燥的运维概念讲得很有画面感。在架构上OpenClaw 做的事情很纯粹加载模型、接收输入、组织上下文、生成输出、执行配置好的外部操作。它的代码完全开源你可以在约定的开源协议下自由部署和二次开发不需要付费。这也是标题里“零成本”的底气所在。1.2 本地部署和在线 AI 服务的关键差别很多人会用在线 AI 服务也都知道它方便——打开网页就能用。但本地部署解决的是另外几个问题。第一个是数据所有权。在线服务要你把对话内容传到别人服务器上它会拿这些内容做什么底层服务商有说明但普通用户几乎没有能力验证。本地部署不需要联网所有请求都在本机完成数据从哪进来、往哪走、被谁处理你完全可以掌控。哪怕你要处理的是一份敏感合同、一段未公开代码放心程度也会高很多。第二个是可用性。在线服务有配额限制、有高峰期排队、有服务商调整策略的风险。本地部署没有配额概念你只要硬件扛得住深夜算大任务、批量处理文本都行不受网络影响。离线环境下也能运行飞机上、地下室、内网机房都可以随时打开。第三个是扩展自由度。在线服务只能在你被允许的范围内配置而本地部署的 OpenClaw 支持自定义插件、控制模型参数、接入本地知识库、调用本机脚本。你可以把“养虾”和你自己的自动化流程接起来形成一套完全属于你的工具链。1.3 这些场景适合养虾你可以对号入座我自己实际体验下来下面几类场景最匹配本地部署的价值。个人知识库问答把本地文档整理成索引OpenClaw 在回答时主动检索回答会带出处。离线写作助手让模型帮你改稿、列提纲全程断网也能用。本地自动化助手通过工具调用模块让模型帮你读取文件、整理目录、执行简单脚本。学习和研究调试模型参数、观察生成逻辑这是任何黑盒在线服务都做不到的。如果你只是偶尔翻译一段网页、随口聊两句那在线服务确实更方便不必为了折腾而折腾。但如果你经常需要处理长文本、对隐私有要求、希望 AI 能稳定作为一个后台服务运行那本地部署是更合适的选择。2. 零成本不等于零门槛先看硬件和软件怎么选2.1 先给自己的电脑“把个脉”很多人有个误区觉得本地跑 AI 必须要有几千块的显卡。OpenClaw 的部署确实能利用显卡但它对纯 CPU 运行也做了支持只是速度慢一点。我建议你先查清楚三样东西CPU 核数、内存容量、磁盘剩余空间。CPU建议 4 核以上8 核比较舒服。核数越多生成文字时的计算吞吐越高。内存如果你打算跑 7B 参数量级别的量化模型16GB 内存是及格线32GB 会很稳。模型文件本身要占几 GB加载后还有一部分额外开销。磁盘至少留 10GB 以上空间建议是 SSD因为模型文件要从磁盘加载到内存磁盘越快冷启动时间越短。“零成本”的核心意思是不需要为了部署它专门买新硬件用你手头现有的电脑就行。我的测试机是一台五年前的办公本8 核 CPU16GB 内存CPU 模式跑 7B 量化模型生成速度大概在每秒 10 到 15 个字日常问答完全可以用。如果你的机器配置更弱也别急着放弃。OpenClaw 支持小参数量模型比如 3B、1.5B 的量化版本适当降低上下文长度后4GB 内存的机器也能转起来只是思考质量弱一些。先跑通再谈性能这是第一次部署的正确心态。2.2 操作系统与运行环境别在第一步卡住OpenClaw 官方对三大操作系统都有支持Windows、macOS、常见 Linux 发行版。我个人的建议是能上 Linux 就上 Linux。原因不是 Windows 跑不了而是很多模型推理依赖库在 Linux 下的编译和调试环境更干净社区排查问题也更集中在 Linux 平台。Windows 用户不要慌下面的步骤我会尽量给出兼容提示。运行环境需要准备三样Git、Python 3.10 及以上版本、一个终端工具。Git 用来拉取项目代码Python 用来安装依赖和启动服务。Windows 用户在安装 Python 时记得勾选“Add Python to PATH”这个选项漏掉的话后面所有 python 命令都会提示找不到。2.3 关于“零成本”的一个真实理解我必须先把话说明白零成本指的是软件授权成本和硬件采购成本为零不代表不花时间。第一次操作从装环境到跑出一个完整回复普通新手两三个小时很正常。遇到网络下载慢、依赖安装失败时间可能更长。这个时间成本不是坏事它本身就是一次很值的学习。还有一个隐藏成本电费。你在本地跑推理时 CPU 或 GPU 会满载功耗确实比待机高。我实测一台高性能笔记本跑 7B 模型整机功耗在 60 到 90 瓦之间按普通居民电价算跑一个小时也就几分钱基本可以忽略。3. 部署实操全流程从空目录到第一个回复3.1 初始化基础环境我以 Linux 和 macOS 的操作为主Windows 用户可以在 PowerShell 里执行等价的命令。先检查 Python 版本终端输入python3 --version如果版本低于 3.10请先升级。接着安装 Git大多数系统的包管理器都带macOS 用户如果没装过可以用系统自带的命令行工具包。然后创建一个专门的工作目录这是很多人忽略的好习惯。不要直接放在用户根目录也不要放在带中文和空格的路径下否则后续依赖解析会出莫名其妙的报错。我习惯这样建mkdir -p ~/openclaw-lab cd ~/openclaw-lab这样所有与 OpenClaw 有关的文件都在一个目录里之后想清理直接删掉这个目录即可不会污染系统其他位置。创建一个虚拟环境。这一步也非常重要隔离依赖环境避免与系统的 Python 包冲突。python3 -m venv venv source venv/bin/activate激活后命令行前面会出现(venv)字样给后面所有操作提供了清晰的现场标识。3.2 获取 OpenClaw 项目和依赖在刚才的目录里拉取项目代码git clone https://example.invalid/openclaw/openclaw.git这个地址是你从 OpenClaw 所在代码托管平台的官方仓库页面复制来的以实际为准。如果网络速度不理想优先检查代理设置和 DNS 配置也可以换一个网络时段再试。进入项目目录cd openclaw然后查看依赖描述文件。一般这种项目都会提供一个requirements.txt或pyproject.toml里面列出了所有依赖。安装命令是pip install -r requirements.txt这里有个经验不要盲目升级所有依赖到最新版。如果安装过程中某依赖编译失败大概率是版本锁定不够好。优先按照项目文档给的版本组合安装比如文档要求某个推理库版本小于 2.x就不要手动装 3.x。3.3 准备模型文件OpenClaw 本体没有模型能力它需要一个语言模型的权重文件。模型的选择策略新手记住一个原则小模型先跑通再尝试大模型。从模型中心下载一个 7B 参数量级别的量化模型量化方法称为 Q4这种格式在磁盘占用和推理速度之间最平衡。文件大小在 4GB 左右你可以在 CPU 上流畅运行也能在 8GB 显存的显卡上运行。下载后的模型文件放到一个单独目录比如mkdir -p ~/openclaw-lab/models mv ~/下载的模型文件 ~/openclaw-lab/models/openclaw-base-7b-q4.bin关于路径尽量使用绝对路径或相对于项目根的稳定路径不要使用桌面路径。因为后面配置文件里要引用这个文件的位置路径一旦带特殊字符或被移动加载会出错而且这类错误排查起来挺隐蔽。3.4 配置文件的编写要点OpenClaw 启动时读取一个 YAML 格式的配置文件。第一次部署建议从项目自带的示例配置复制一份cp config.example.yaml config.yaml然后编辑config.yaml我整理了一份最小可运行配置server: host: 127.0.0.1 port: 8080 auto_open: false model: path: /home/你的用户名/openclaw-lab/models/openclaw-base-7b-q4.bin device: cpu context_length: 2048 generation: temperature: 0.7 max_tokens: 1024 memory: enable: true storage: ./memory_store解释几个关键字段server.host建议固定为127.0.0.1表示只有本机能访问不暴露到局域网这是隐私安全的第一层保护。device填cpu还是cuda取决于你是否有可用显卡。先用 CPU 跑通再改显卡配置这是最稳的顺序。context_length是上下文长度也就是模型能记住的对话历史范围。2048 意味着最多几十轮对话长度越大越吃内存。先不要贪大。generation.temperature控制回答随机性0.7 是中庸值事实类问题可以降到 0.2创意类问题可以设到 0.9。memory.enable开启长期记忆它会自动把历史对话沉淀到本地文件重启不丢失。3.5 首次启动与验证在openclaw项目目录、虚拟环境激活的状态下执行python openclaw serve --config config.yaml第一次启动会加载模型文件冷启动阶段比较慢我这个配置下大约需要一分钟。你会看到日志滚动最后几行会显示“server started”和监听地址。看到日志不代表能用做一次健康检查另外开一个终端窗口输入curl http://127.0.0.1:8080/v1/chat \ -H Content-Type: application/json \ -d {message: 你好简单介绍一下你自己}如果返回一段 JSON 文本里面有“你好”之类的内容说明你已经成功部署了一台完全属于自己的 AI 助手。到这里标题里的“零成本养虾”目标已经达成大半。4. 把“能跑”升级成“好用”的核心配置4.1 对话质量相关参数的调优心得很多人在默认参数下运行后觉得回答“太淡”其实不是模型不行是生成参数没调对。我根据自己的测试给你一套可参考的经验值。追求准确temperature设为 0.1 到 0.2适合代码生成、配置解析、事实问答。追求自然temperature设为 0.7 到 0.8适合聊天、写文案、头脑风暴。防止跑题开启top_p 0.9可以限制候选词范围避免生成过于发散。控制长度max_tokens决定单次最多生成多少字。不是为了对话就别开太大1024 足够日常使用太大反而会让单次响应等待时间变长。还有一个小技巧在 system 提示词里给模型设定角色和边界。比如加入“你是一个谨慎的本地助手不确定时直接说明不知道”这比任何参数都能显著提升回答质量。OpenClaw 的配置里通常有 system_prompt 字段别空着。4.2 开启长期记忆让虾“认识你”默认情况下模型是无状态的——这次对话结束下次它就忘了。OpenClaw 的记忆模块会把你每次对话的关键内容写入本地存储目录下次启动时自动加载从而让助手“认识你”知道你的名字、偏好、经常提到的话题。我强烈建议开启这个功能。它的配置只要memory.enable: true即可。运行时你可以在对话中随时触发记忆写入比如说“记住我喜欢简洁的回答风格”系统会提取关键词存下来。记忆文件是纯文本格式存放在本地目录你可以直接打开查看隐私完全可控。这里提醒一句默认的识别可能会记下冗余内容定期清理记忆目录的文件你会发现回答变得更精准。4.3 工具调用扩展与接入本地脚本OpenClaw 最吸引我的部分是工具调用能力。你可以给它配置一些外部工具让模型在对话中主动调用。比如配置一个“读文件”工具后你对它说“看一下当前目录的 readme.txt 讲了什么”它会执行文件读取再返回总结。配置工具一般需要在tools段声明名称、调用方式、参数描述。一个最小示例tools: - name: read_file type: local_command command: cat args: [path] description: 读取本地文本文件内容需要格外注意工具调用本质是让模型执行命令有权限风险。尽量不要给模型配置rm、sudo或任何破坏性命令。运行 OpenClaw 的账户最好也不是管理员账户这样即使模型误操作也不会伤到系统关键文件。4.4 性能瓶颈实测与优化方向我用同一台机器做了几组对比给你一个直观参考配置首次加载时间生成速度可用体验CPU 7B Q4约 60 秒12 字/秒日常可用GPU 8GB 7B Q4约 15 秒45 字/秒流畅CPU 3B Q4约 20 秒25 字/秒轻量场景很合适如果你的生成速度比表里差很多先看内存占用是不是被打满。内存不足时系统会启用交换分区速度会断崖式下降。此时可以降低context_length、更换更小参数量模型或者关闭正在运行的其他大型应用。还有一个容易忽略的点散热。笔记本在长时间满载推理时容易过热降频导致速度越来越慢。给电脑垫高、保持通风是成本最低的“性能优化”。5. 部署过程中最容易踩的坑排查与解决方案5.1 端口占用启动日志一闪而过现象是执行启动命令后日志提示端口被占用。原因是8080端口已被其他程序监听。解决方式有两种找到占用进程并关闭它或者修改配置里的端口号。我自己更推荐后者因为不干扰已有服务。把端口改成8081再启动几十秒解决问题。如果你修改端口后仍然连不上检查防火墙是否放行。本地回环地址访问通常不受防火墙限制但某些安全软件策略严格。这里只访问回环地址一般没有风险。5.2 显存或内存不足导致加载失败这个问题的核心是模型文件超过硬件承载能力。比如 8GB 显存去加载未量化的 13B 模型必然失败。排查思路按顺序来确认模型是量化版本优先选择 Q4 或 Q5。如果仍然超限把device改成cpu同时把context_length降到 1024。最保险的方案是换用 3B 模型先验证整体流程。不要指望软件层面有什么“无损优化”能让超大模型跑进小内存量化有代价降级有上限理解这一点能少踩很多坑。5.3 中文乱码或输出杂乱如果你看到终端启动日志正常但回答内容乱码或夹杂大量特殊符号优先级最高的是检查终端编码。Linux 上执行export LANGzh_CN.UTF-8Windows 的 PowerShell 则要先设置 UTF-8 输出。另一个常见原因是模型本身针对英文优化较好对中文的支持相对弱。这种情况可以换一个对中文更友好的开源模型或者把问题用英文重新描述一遍回答质量会改善。5.4 更新换版本后的破坏性坑OpenClaw 版本更新后配置文件格式偶尔不兼容。最典型的坑是升级后启动报错提到某个字段不存在。很多人会急着改配置越改越乱。正确做法是先备份旧配置再对比项目里的新示例配置逐项迁移改动项。我有一条经验不要追新不要看到新版本就立刻升级。先在测试目录里部署新版本跑通后再决定是否替换正式环境的目录。这样即便新版本有兼容问题你的“虾”仍然能正常工作。5.5 一个实用排查流程帮你少走弯路当所有报错都看不懂的时候按这个顺序排查基本都能找到问题看完整日志不只看到报错行返回前 20 行日志往往有真正原因。检查配置文件格式。YAML 对缩进极敏感一个多余的空格都可能解析失败。单独测试依赖项。比如把配置里的模型加载去掉看服务能否启动从而判断是依赖问题还是模型文件问题。在社区搜索报错信息。把完整报错复制进去搜索比自己猜有效得多。部署类问题九成以上出在环境一致性和路径错误上而不是项目本身的 bug。保持配置文件简单、避免使用魔法参数、一次只改一个变量排查速度会明显变快。写在最后我在第一次部署 OpenClaw 的时候也卡了很久最大的教训是不看日志、凭感觉改配置结果越改越远。后来老老实实回到文档从最小配置起步一步步加功能才把这只“虾”真正养起来。现在它已经稳定运行在我一台旧笔记本上承担着本地文档问答和写作辅助的日常工作每月电费几乎可以忽略。如果你打算把 OpenClaw 继续玩下去我的建议是从一个具体任务开始把这篇文章保存成文本让它基于本文内容回答你关于部署的问题然后把知识库索引、工具调用、长期记忆逐个配上去。每加一层能力你都更理解一次本地 AI 的工作原理。最后再分享一个小习惯养成固定的“养虾日志”。每次改配置、换模型、清理记忆都随手记一笔。几周后回看你会惊讶地发现自己对这套系统的理解已经远超第一天这个过程本身就是本地部署这笔“零成本投入”最大的一份回报。