众所周知，我们已经有很多免费的大模型工具可以用，比如：

文心一言：https://yiyan.baidu.com/

通义千问：https://tongyi.aliyun.com/qianwen/

kimi：https://kimi.moonshot.cn/

以及众多手机APP：豆包、腾讯元宝、kimi、文心一言…

但那些都是别人的，我还想要自己的，因为——

🚀 数据隐私：在自己个人电脑上安装和使用大模型，数据不离开自己电脑，保护个人隐私；

🌐 离线访问：随时随地使用，不联网也可以正常使用；

📚 学习研究：深入理解大模型运行机制，体验新技术，满足好奇心；

💰 永久免费：部署好了就是自己的，以后都不用花钱，也不用看广告。

下边是我今天在自己电脑上装的大模型，问答结果还不错。

所以，我们开始吧！过程很简单，总共分三步，耗时取决于网速。

**🔧 第一步：安装管理工具Ollama

**

**🌐 第二步：部署 Ollama 的访问页面

**

📚 第三步：安装大语言模型

这样，就可以和自己的大模型对话了！下面是详细的操作步骤。

一、安装管理工具****Ollama

Ollama是一款大模型管理工具，官网：https://ollama.com/

安装Ollama可以方便我们使用包括Qwen2、Llama3、Phi3、Gemma2等开源的大型语言模型。

支持的大语言模型列表可见：https://ollama.com/library

****下载Ollama

访问官网：https://ollama.com/

下载安装程序（支持 Windows/MacOS/Linux）

安装Ollama

下载完成之后，找到安装文件双击（在浏览器的下载列表，或直接到下载文件夹找到OllamaSetup.exe）。

点击“Install”

Ollama安装程序自动运行，中间没有其他操作（这里无法选择“存放大模型的文件夹”，后边会在系统设置里更改）。

程序安装完成之后，会在桌面右下角弹出提示，代表安装成功。

可以在右下角查看Ollama的图标，不过这个图标只代表程序运行了，没有办法启动它的界面，我们需要另外给Ollama安装一个访问界面。

更改存放模型文件的文件夹

先打开一个文件夹，在左侧列表，右键点击“此电脑”，点击属性。

在“系统信息”页面，点击“高级系统设置”，在弹出的“系统属性”窗口中，点击“环境变量”。

在“环境变量”窗口中，点击“系统变量”的“新建”按钮。

填写如下内容：

**变量名：OLLAMA_MODELS
**

**变量值：**D:\OllamaModels（也可以是其他文件夹，后续用于存放下载的大模型文件，预留比较大的空间，至少留几个G吧）

重启Ollama，先右键点击桌面右下角Ollama图标退出。

再在开始菜单处找到Ollama，打开

访问相应文件夹，看是否已经创建成功

**
**

*二、**部署 Ollama 的访问页面*

*
*

****下载并安装git

**
**

访问git网站，地址：https://git-scm.com/，点击Downloads。

**
**

支持 Windows/MacOS/Linux，点击相应操作系统类型。

根据自己电脑的实际情况，选择安装包文件，点击下载。

下载完成之后，找到安装文件双击（在浏览器的下载列表，或直接到下载文件夹找到Git-2.45.2-64-bit.exe）。

点击“Next”

其他页面按默认选择即可，选择默认编辑器这页，选择一下记事本，即“Use Notepad as Git’s default editor”，然后一直点“Next”直到安装完成。

****下载并安装Node.js

**
**

访问Node网站，地址：https://git-scm.com/，点击下载Node.js。

下载完成之后，找到安装文件双击（在浏览器的下载列表，或直接到下载文件夹找到node-v20.15.1-x64.msi）。

点击“Next”

在选择安装路径处，设置相应的安装文件夹，点击“Next”直到完成。

****设置 Ollama 的访问页面

**
**

首先复制以下文本（ollama-webui代码）：

git clone https://github.com/ollama-webui/ollama-webui-lite ollama-webui

打开想要存储Ollama界面程序的文件夹（我选了D盘），在空白处右键，点击“在终端中打开”。

在窗口中，点击右键

填入剪切板中复制好的内容，点击回车，开始下载代码。

显示如下内容，代表下载完成

如图，继续输入相应内容：

1. 切换代码的目录：cd ollama-webui

2. 设置 Node.js 工具包镜像源：npm config set registry http://mirrors.cloud.tencent.com/npm/

3. 安装 Node.js 依赖的工具包：npm install

4. 启动 Web 可视化界面：npm run dev

显示如下内容，代表设置成功

打开浏览器，输入：http://localhost:3000/，进入Ollama访问页面。

******

**
****

**三、安装大语言模型****

**
****

****方式一、通过命令行安装

🌈安装****qwen2大模型

**
**

在开始菜单输入“cmd”打开命令提示符窗口，输入：ollama pull qwen2:0.5b，点击回车。代表从 Ollama 远程仓库下载（或更新）qwen2大模型的0.5b参数规格大模型文件到刚才设置的存储模型文件的文件夹。

可在窗口中查看下载进度

显示“success”代表下载成功

********方式二、通过Ollama访问页面安装******

****
******

🌈安装****glm4大模型

1. 文章在“select a model”右侧，点击设置小图标；
2. 在“Settings”弹窗中，点击“Models”；
3. 在“Pull a model”输入框，输入glm4:9b
4. 点击下载按钮

在当前页面查看下载进度

下载成功后，会显示“success”提示

****四、和自己的大模型对话******

两个大模型都下载成功了，现在可以选择他们来进行对话了。

各问它们一个“怎么能2个月减20斤？”的问题，谁的回答更好呢？

**🌈**qwen2大模型的*回答*

**🌈**glm4*大模型的回答*

如何学习AI大模型 ？

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。【保证100%免费】🆓

对于0基础小白入门：

如果你是零基础小白，想快速入门大模型是可以考虑的。

一方面是学习时间相对较短，学习内容更全面更集中。
二方面是可以根据这些资料规划好学习计划和方向。

😝有需要的小伙伴，可以VＸ扫描下方二维码免费领取🆓

👉1.大模型入门学习思维导图👈

要学习一门新的技术，作为新手一定要先学习成长路线图，方向不对，努力白费。

对于从来没有接触过AI大模型的同学，我们帮你准备了详细的学习成长路线图&学习规划。可以说是最科学最系统的学习路线，大家跟着这个大的方向学习准没问题。（全套教程文末领取哈）

👉2.AGI大模型配套视频👈

很多朋友都不喜欢晦涩的文字，我也为大家准备了视频教程，每个章节都是当前板块的精华浓缩。

👉3.大模型实际应用报告合集👈

这套包含640份报告的合集，涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师，还是对AI大模型感兴趣的爱好者，这套报告合集都将为您提供宝贵的信息和启示。（全套教程文末领取哈）

👉4.大模型落地应用案例PPT👈

光学理论是没用的，要学会跟着一起做，要动手实操，才能将自己的所学运用到实际当中去，这时候可以搞点实战案例来学习。（全套教程文末领取哈）

👉5.大模型经典学习电子书👈

随着人工智能技术的飞速发展，AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型，如GPT-3、BERT、XLNet等，以其强大的语言理解和生成能力，正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。（全套教程文末领取哈）

👉6.大模型面试题&答案👈

截至目前大模型已经超过200个，在大模型纵横的时代，不仅大模型技术越来越卷，就连大模型相关的岗位和面试也开始越来越卷了。为了让大家更容易上车大模型算法赛道，我总结了大模型常考的面试题。（全套教程文末领取哈）

👉学会后的收获：👈
• 基于大模型全栈工程实现（前端、后端、产品经理、设计、数据分析等），通过这门课可获得不同能力；

• 能够利用大模型解决相关实际项目需求： 大数据时代，越来越多的企业和机构需要处理海量数据，利用大模型技术可以更好地处理这些数据，提高数据分析和决策的准确性。因此，掌握大模型应用开发技能，可以让程序员更好地应对实际项目需求；

• 基于大模型和企业数据AI应用开发，实现大模型理论、掌握GPU算力、硬件、LangChain开发框架和项目实战技能， 学会Fine-tuning垂直训练大模型（数据准备、数据蒸馏、大模型部署）一站式掌握；

• 能够完成时下热门大模型垂直领域模型训练能力，提高程序员的编码能力： 大模型应用开发需要掌握机器学习算法、深度学习

这份完整版的 AI 大模型学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

😝有需要的小伙伴，可以Vx扫描下方二维码免费领取🆓