简介这份PDF资料面向对大模型本地部署与训练原理感兴趣的初学者、技术爱好者及研发人员系统讲解DeepSeek大模型的本地运行方法与核心技术脉络。内容从本地部署的三个实操步骤切入结合界面截图演示DeepSeek-R1的下载、启动与对话流程并延伸至LLM基础概念、Transformer架构、预训练、监督微调与强化学习等理论背景重点剖析R1-Zero中间推理模型与通用强化学习的训练过程帮助读者理解推理导向模型的设计思路。资源包内含1个PDF文件约2.64MB以图文并茂的图解形式呈现由AI领域作者郭震撰写步骤清晰、可操作性强。目前已有2199人学习适合希望低成本搭建本地大模型环境、同时补齐LLM训练知识体系的技术读者参考。1. 本地跑 DeepSeek 这件事版本选错第一步就卡死很多人第一次在本地部署 DeepSeek卡住的地方根本不是模型本身而是版本和硬件对不上。我见过太多人上来就拉deepseek-r1:70b结果 16G 内存的笔记本直接卡到风扇狂转最后连对话界面都进不去。其实对绝大多数开发者来说deepseek-r1:1.5b才是那个「装完就能跑、跑完还能用」的起点。这套环境的核心链路很短ollama 负责管理模型DeepSeek-R1 负责推理一条ollama run命令就能进对话。但短链路不等于没坑模型体积、量化方式、内存占用、拉取超时每一个都能让你在第一步就翻车。这篇笔记按「装什么 → 怎么装 → 坏了怎么救」的顺序走一遍适合刚接触大模型本地部署、想先把环境跑通再谈微调的人。2. 环境准备ollama 安装与 DeepSeek-R1 版本选择2.1 为什么用 ollama 而不是自己编译推理框架本地跑大模型最怕的不是模型不会用而是环境依赖把你劝退。自己从源码编译推理框架CUDA 版本、Python 版本、PyTorch 版本三者稍微错一个就是一下午的报错。ollama 的价值在于它把模型权重、推理后端、量化格式打包成一个可执行文件安装过程基本就是「下一步 → 下一步 → 完成」。装完之后你不需要单独配 Python 虚拟环境也不需要手动下载.safetensors或.gguf文件一条ollama pull就能把模型拉到本地。常见做法是Windows 和 macOS 直接下载安装包Linux 用一行脚本装。安装包体积不大装完默认会注册成系统服务开机自启。这里有个细节要注意ollama 默认把模型存在用户目录下的.ollama/models如果你的系统盘空间紧张最好在第一次拉模型之前就把存储路径改到大盘。# Linux 下安装 ollama 的常见做法 curl -fsSL https://ollama.com/install.sh | sh # 安装完成后检查版本确认服务已注册 ollama --version # 查看 ollama 服务状态Linux systemd 环境 systemctl status ollama上面三条命令分别对应安装、验证、查服务。ollama --version如果输出版本号说明二进制已经就位systemctl status ollama看到active (running)才说明后台服务正常。如果服务没起来后面ollama pull会直接报连接拒绝这时候不用怀疑模型先看服务。2.2 DeepSeek-R1 各版本参数与硬件对照DeepSeek-R1 在 ollama 上常见的 tag 有1.5b、7b、8b、14b、32b、70b等数字代表参数量单位是 billion。参数越多模型越「聪明」但内存占用也越大。这里的内存不是显存而是模型加载后占用的系统内存加显存总和。1.5b 的模型量化后大约 12GB7b 大约 45GB14b 大约 910GB32b 大约 20GB 起步70b 没有 48GB 以上内存基本不用想。模型 tag参数量量化后大致体积建议最低内存适用场景deepseek-r1:1.5b15 亿12 GB8 GB普通笔记本、快速验证deepseek-r1:7b70 亿45 GB16 GB开发机、日常问答deepseek-r1:8b80 亿56 GB16 GB开发机、代码辅助deepseek-r1:14b140 亿910 GB32 GB工作站、复杂推理deepseek-r1:32b320 亿20 GB64 GB服务器、专业任务deepseek-r1:70b700 亿40 GB128 GB多卡服务器这张表不是绝对门槛而是「跑起来不卡死」的经验值。我一般会建议第一次装的人从1.5b开始确认链路通了再按硬件往上换。直接上大参数模型下载时间长、加载慢、报错多很容易在第一步就放弃。2.3 拉取模型前的两个关键配置在ollama pull之前有两件事最好先做。第一是确认磁盘空间模型文件默认放在~/.ollama/modelsLinux 下可以用df -h看根分区剩余空间。第二是如果所在网络环境拉取慢可以设置OLLAMA_HOST和超时参数但不要改得太激进否则容易拉一半断掉。# 查看默认模型存储路径 ls -lh ~/.ollama/models # 如果系统盘空间不够把模型目录迁到大盘示例迁到 /data/ollama sudo mkdir -p /data/ollama/models sudo chown -R $USER:$USER /data/ollama export OLLAMA_MODELS/data/ollama/models # 把 export 写进 shell 配置避免每次重启失效 echo export OLLAMA_MODELS/data/ollama/models ~/.bashrc source ~/.bashrcOLLAMA_MODELS这个环境变量控制模型存放位置改完之后再拉模型文件就会落到新路径。注意chown那一步不能省否则 ollama 服务没有写权限拉取会报 permission denied。如果你用的是 macOS路径换成/Users/你的用户名/ollama-models即可逻辑一样。3. 安装实操从 ollama pull 到本地对话跑通3.1 拉取 deepseek-r1:1.5b 并验证完整性环境确认完之后正式拉模型。命令本身很简单但拉取过程中的输出信息值得看它会显示每一层的下载进度和校验状态。如果某一层卡在 99% 不动通常是网络问题不是模型问题。# 拉取 1.5b 版本适合第一次验证 ollama pull deepseek-r1:1.5b # 拉完之后列出本地已有模型确认 tag 和大小 ollama listollama pull会从远端仓库分层下载每一层下载完会做哈希校验。ollama list用来确认模型已经落到本地输出里会显示模型名、ID、大小和修改时间。如果list里看不到刚拉的模型说明拉取没有真正完成重新执行 pull 即可ollama 会断点续传。3.2 启动对话与 think 标签的阅读方式模型拉下来之后直接 run 就能进对话。DeepSeek-R1 的特点是回复里会带一个think标签里面是模型的思考过程标签结束后才是正式回答。这个设计对调试很有用但第一次见的人容易懵以为输出乱了。# 启动对话 ollama run deepseek-r1:1.5b # 进入交互界面后输入问题 请帮我分析 Python 编程如何从零开始学习启动后你会看到提示符直接输入问题回车。回复会先出现think包裹的推理过程然后才是正式答案。如果你只想看最终结果可以等think闭合后再读。这里有个实用技巧在对话界面输入/bye退出输入/clear清空上下文。上下文太长时1.5b 模型容易「忘事」清一下反而更稳。3.3 用 API 方式调用本地 DeepSeek命令行对话适合验证但真正要集成到自己的工具里还是走 HTTP API。ollama 默认在11434端口暴露接口兼容 OpenAI 风格的调用方式。import requests # ollama 本地 API 地址 url http://localhost:11434/api/generate payload { model: deepseek-r1:1.5b, prompt: 用一句话解释什么是 Transformer 架构, stream: False # 关闭流式方便一次性拿完整结果 } resp requests.post(url, jsonpayload, timeout120) data resp.json() print(data[response])这段代码里model必须和ollama list里的 tag 完全一致大小写都不能错。stream设为False时接口会等模型生成完再返回适合脚本调用设为True则是逐块返回适合做打字机效果。timeout建议给足1.5b 在普通机器上生成几百字也要十几秒超时设太短会误判为失败。4. 避坑排查本地部署 DeepSeek 最常见的 5 个翻车点4.1 拉取报错 connection refused现象是执行ollama pull后立刻提示连接被拒绝。原因通常是 ollama 后台服务没起来或者被系统防火墙拦了。解决方法是先systemctl status ollama看服务状态没起来就systemctl start ollama如果是 macOS打开 ollama 应用即可。确认服务在跑之后再试一次 pull。4.2 模型加载后内存爆满、系统卡死现象是ollama run之后机器变得极慢鼠标都拖不动。原因是选的模型参数超过了物理内存系统开始疯狂用交换分区。解决办法是换小参数版本比如从 7b 降到 1.5b或者关掉其他占内存的程序。我一般会在跑模型前用free -h看一眼可用内存留出至少 2GB 余量。4.3 回复里 think 标签不闭合现象是输出一直停在思考过程看不到正式回答。原因是模型在长推理时生成了过长的思维链1.5b 版本尤其容易这样。解决方法是把问题拆小或者换 7b 以上版本。如果只是想要答案可以在 prompt 里加一句「请直接给出结论不要展开推理」。4.4 ollama list 看不到刚拉的模型现象是 pull 显示完成但 list 里没有。原因多半是OLLAMA_MODELS改过之后服务没有重启还在用旧路径。解决方法是systemctl restart ollama然后再ollama list。如果还是不行检查新路径的权限确保 ollama 服务账户能读写。4.5 API 调用返回 model not found现象是 Python 脚本报 404 或 model not found。原因是 payload 里的模型名和本地实际 tag 不一致比如写了deepseek-r1但本地是deepseek-r1:1.5b。解决方法是先ollama list复制准确 tag再填进代码。ollama 的 API 对 tag 敏感少一个冒号都会找不到。5. 装完怎么验证三条命令确认 DeepSeek 真的在本地跑装完之后不要急着写业务代码先用三条命令把链路验一遍。第一条ollama list确认模型在本地第二条ollama run deepseek-r1:1.5b进对话问一个简单问题看think标签是否正常闭合第三条用 curl 直接打 API确认 HTTP 接口通。# 第一条确认模型存在 ollama list # 第二条命令行对话验证 ollama run deepseek-r1:1.5b 11 等于几 # 第三条API 验证 curl http://localhost:11434/api/generate -d { model: deepseek-r1:1.5b, prompt: 你好, stream: false }这三条分别覆盖了模型层、交互层、接口层。任何一条不通就回到对应章节排查。我自己的习惯是每次换模型或者改配置之后都强制走一遍这三步确认没有玄学问题再往下做微调或集成。从那以后我每次部署新模型都先跑这三条省掉了很多「以为装好了其实没通」的返工。希望帮到你。本文还有配套的精品资源点击获取 
长河君 · 2026/10/20 10:35:28 · 阅读 1.2k 本地部署DeepSeek-R1：ollama安装与版本选择避坑指南
简介这份PDF资料面向对大模型本地部署与训练原理感兴趣的初学者、技术爱好者及研发人员系统讲解DeepSeek大模型的本地运行方法与核心技术脉络。内容从本地部署的三个实操步骤切入结合界面截图演示DeepSeek-R1的下载、启动与对话流程并延伸至LLM基础概念、Transformer架构、预训练、监督微调与强化学习等理论背景重点剖析R1-Zero中间推理模型与通用强化学习的训练过程帮助读者理解推理导向模型的设计思路。资源包内含1个PDF文件约2.64MB以图文并茂的图解形式呈现由AI领域作者郭震撰写步骤清晰、可操作性强。目前已有2199人学习适合希望低成本搭建本地大模型环境、同时补齐LLM训练知识体系的技术读者参考。1. 本地跑 DeepSeek 这件事版本选错第一步就卡死很多人第一次在本地部署 DeepSeek卡住的地方根本不是模型本身而是版本和硬件对不上。我见过太多人上来就拉deepseek-r1:70b结果 16G 内存的笔记本直接卡到风扇狂转最后连对话界面都进不去。其实对绝大多数开发者来说deepseek-r1:1.5b才是那个「装完就能跑、跑完还能用」的起点。这套环境的核心链路很短ollama 负责管理模型DeepSeek-R1 负责推理一条ollama run命令就能进对话。但短链路不等于没坑模型体积、量化方式、内存占用、拉取超时每一个都能让你在第一步就翻车。这篇笔记按「装什么 → 怎么装 → 坏了怎么救」的顺序走一遍适合刚接触大模型本地部署、想先把环境跑通再谈微调的人。2. 环境准备ollama 安装与 DeepSeek-R1 版本选择2.1 为什么用 ollama 而不是自己编译推理框架本地跑大模型最怕的不是模型不会用而是环境依赖把你劝退。自己从源码编译推理框架CUDA 版本、Python 版本、PyTorch 版本三者稍微错一个就是一下午的报错。ollama 的价值在于它把模型权重、推理后端、量化格式打包成一个可执行文件安装过程基本就是「下一步 → 下一步 → 完成」。装完之后你不需要单独配 Python 虚拟环境也不需要手动下载.safetensors或.gguf文件一条ollama pull就能把模型拉到本地。常见做法是Windows 和 macOS 直接下载安装包Linux 用一行脚本装。安装包体积不大装完默认会注册成系统服务开机自启。这里有个细节要注意ollama 默认把模型存在用户目录下的.ollama/models如果你的系统盘空间紧张最好在第一次拉模型之前就把存储路径改到大盘。# Linux 下安装 ollama 的常见做法 curl -fsSL https://ollama.com/install.sh | sh # 安装完成后检查版本确认服务已注册 ollama --version # 查看 ollama 服务状态Linux systemd 环境 systemctl status ollama上面三条命令分别对应安装、验证、查服务。ollama --version如果输出版本号说明二进制已经就位systemctl status ollama看到active (running)才说明后台服务正常。如果服务没起来后面ollama pull会直接报连接拒绝这时候不用怀疑模型先看服务。2.2 DeepSeek-R1 各版本参数与硬件对照DeepSeek-R1 在 ollama 上常见的 tag 有1.5b、7b、8b、14b、32b、70b等数字代表参数量单位是 billion。参数越多模型越「聪明」但内存占用也越大。这里的内存不是显存而是模型加载后占用的系统内存加显存总和。1.5b 的模型量化后大约 12GB7b 大约 45GB14b 大约 910GB32b 大约 20GB 起步70b 没有 48GB 以上内存基本不用想。模型 tag参数量量化后大致体积建议最低内存适用场景deepseek-r1:1.5b15 亿12 GB8 GB普通笔记本、快速验证deepseek-r1:7b70 亿45 GB16 GB开发机、日常问答deepseek-r1:8b80 亿56 GB16 GB开发机、代码辅助deepseek-r1:14b140 亿910 GB32 GB工作站、复杂推理deepseek-r1:32b320 亿20 GB64 GB服务器、专业任务deepseek-r1:70b700 亿40 GB128 GB多卡服务器这张表不是绝对门槛而是「跑起来不卡死」的经验值。我一般会建议第一次装的人从1.5b开始确认链路通了再按硬件往上换。直接上大参数模型下载时间长、加载慢、报错多很容易在第一步就放弃。2.3 拉取模型前的两个关键配置在ollama pull之前有两件事最好先做。第一是确认磁盘空间模型文件默认放在~/.ollama/modelsLinux 下可以用df -h看根分区剩余空间。第二是如果所在网络环境拉取慢可以设置OLLAMA_HOST和超时参数但不要改得太激进否则容易拉一半断掉。# 查看默认模型存储路径 ls -lh ~/.ollama/models # 如果系统盘空间不够把模型目录迁到大盘示例迁到 /data/ollama sudo mkdir -p /data/ollama/models sudo chown -R $USER:$USER /data/ollama export OLLAMA_MODELS/data/ollama/models # 把 export 写进 shell 配置避免每次重启失效 echo export OLLAMA_MODELS/data/ollama/models ~/.bashrc source ~/.bashrcOLLAMA_MODELS这个环境变量控制模型存放位置改完之后再拉模型文件就会落到新路径。注意chown那一步不能省否则 ollama 服务没有写权限拉取会报 permission denied。如果你用的是 macOS路径换成/Users/你的用户名/ollama-models即可逻辑一样。3. 安装实操从 ollama pull 到本地对话跑通3.1 拉取 deepseek-r1:1.5b 并验证完整性环境确认完之后正式拉模型。命令本身很简单但拉取过程中的输出信息值得看它会显示每一层的下载进度和校验状态。如果某一层卡在 99% 不动通常是网络问题不是模型问题。# 拉取 1.5b 版本适合第一次验证 ollama pull deepseek-r1:1.5b # 拉完之后列出本地已有模型确认 tag 和大小 ollama listollama pull会从远端仓库分层下载每一层下载完会做哈希校验。ollama list用来确认模型已经落到本地输出里会显示模型名、ID、大小和修改时间。如果list里看不到刚拉的模型说明拉取没有真正完成重新执行 pull 即可ollama 会断点续传。3.2 启动对话与 think 标签的阅读方式模型拉下来之后直接 run 就能进对话。DeepSeek-R1 的特点是回复里会带一个think标签里面是模型的思考过程标签结束后才是正式回答。这个设计对调试很有用但第一次见的人容易懵以为输出乱了。# 启动对话 ollama run deepseek-r1:1.5b # 进入交互界面后输入问题 请帮我分析 Python 编程如何从零开始学习启动后你会看到提示符直接输入问题回车。回复会先出现think包裹的推理过程然后才是正式答案。如果你只想看最终结果可以等think闭合后再读。这里有个实用技巧在对话界面输入/bye退出输入/clear清空上下文。上下文太长时1.5b 模型容易「忘事」清一下反而更稳。3.3 用 API 方式调用本地 DeepSeek命令行对话适合验证但真正要集成到自己的工具里还是走 HTTP API。ollama 默认在11434端口暴露接口兼容 OpenAI 风格的调用方式。import requests # ollama 本地 API 地址 url http://localhost:11434/api/generate payload { model: deepseek-r1:1.5b, prompt: 用一句话解释什么是 Transformer 架构, stream: False # 关闭流式方便一次性拿完整结果 } resp requests.post(url, jsonpayload, timeout120) data resp.json() print(data[response])这段代码里model必须和ollama list里的 tag 完全一致大小写都不能错。stream设为False时接口会等模型生成完再返回适合脚本调用设为True则是逐块返回适合做打字机效果。timeout建议给足1.5b 在普通机器上生成几百字也要十几秒超时设太短会误判为失败。4. 避坑排查本地部署 DeepSeek 最常见的 5 个翻车点4.1 拉取报错 connection refused现象是执行ollama pull后立刻提示连接被拒绝。原因通常是 ollama 后台服务没起来或者被系统防火墙拦了。解决方法是先systemctl status ollama看服务状态没起来就systemctl start ollama如果是 macOS打开 ollama 应用即可。确认服务在跑之后再试一次 pull。4.2 模型加载后内存爆满、系统卡死现象是ollama run之后机器变得极慢鼠标都拖不动。原因是选的模型参数超过了物理内存系统开始疯狂用交换分区。解决办法是换小参数版本比如从 7b 降到 1.5b或者关掉其他占内存的程序。我一般会在跑模型前用free -h看一眼可用内存留出至少 2GB 余量。4.3 回复里 think 标签不闭合现象是输出一直停在思考过程看不到正式回答。原因是模型在长推理时生成了过长的思维链1.5b 版本尤其容易这样。解决方法是把问题拆小或者换 7b 以上版本。如果只是想要答案可以在 prompt 里加一句「请直接给出结论不要展开推理」。4.4 ollama list 看不到刚拉的模型现象是 pull 显示完成但 list 里没有。原因多半是OLLAMA_MODELS改过之后服务没有重启还在用旧路径。解决方法是systemctl restart ollama然后再ollama list。如果还是不行检查新路径的权限确保 ollama 服务账户能读写。4.5 API 调用返回 model not found现象是 Python 脚本报 404 或 model not found。原因是 payload 里的模型名和本地实际 tag 不一致比如写了deepseek-r1但本地是deepseek-r1:1.5b。解决方法是先ollama list复制准确 tag再填进代码。ollama 的 API 对 tag 敏感少一个冒号都会找不到。5. 装完怎么验证三条命令确认 DeepSeek 真的在本地跑装完之后不要急着写业务代码先用三条命令把链路验一遍。第一条ollama list确认模型在本地第二条ollama run deepseek-r1:1.5b进对话问一个简单问题看think标签是否正常闭合第三条用 curl 直接打 API确认 HTTP 接口通。# 第一条确认模型存在 ollama list # 第二条命令行对话验证 ollama run deepseek-r1:1.5b 11 等于几 # 第三条API 验证 curl http://localhost:11434/api/generate -d { model: deepseek-r1:1.5b, prompt: 你好, stream: false }这三条分别覆盖了模型层、交互层、接口层。任何一条不通就回到对应章节排查。我自己的习惯是每次换模型或者改配置之后都强制走一遍这三步确认没有玄学问题再往下做微调或集成。从那以后我每次部署新模型都先跑这三条省掉了很多「以为装好了其实没通」的返工。希望帮到你。本文还有配套的精品资源点击获取