AI - 人工智能;Open WebUI;Lobe Chat;Ollama

AI - 人工智能;Ollama大模型工具;Java之SpringAI(三)

鉴于使用Ollama的命令行交互不是很方便,所以我们需要另一个开源的WebUI,搭建一个能通过浏览器访问的界面;Ollama的Web & Desktop非常多,比较流行的是 Open WebUI

本文按照Windows系统下使用Docker方式来安装Open WebUI,源码部署安装可以参考文档自行部署

Window下使用Docker推荐使用Docker Desktop; Docker Desktop是一款适用于Windows操作系统的桌面应用,它为开发人员提供了一个界面化操作Docker的环境,以便在本地环境中轻松创建、构建和运行Docker容器

一、Docker Desktop

1、Windows系统下Docker Desktop的安装

官网下载安装包:https://www.docker.com/products/docker-desktop/

2、安装运行Docker Desktop

下载完成之后点击安装,默认安装路径 C:\Program Files\Docker\Docker 

点开运行,接受默认的配置

可以注册账号,或者直接游客身份运行

点进去之后,调查可以跳过

启动之后页面情况显示如下:

如遇Docker Desktop显示 “Docker Engine stopped”,参考文章

Docker - Docker Desktop启动显示“Docker Engine stopped”

资源默认存放路径:C:\Users\allen\AppData\Local\Docker\wsl;点击设置---->Resources,修改资源下载存储路径

启动终端,输入命令查看

docker ps

二、Open WebUI

Open WebUI是一个可扩展、功能丰富、用户友好的自托管WebUI,它支持完全离线操作,支持各种LLM(Large Language Model)运行程序,包括Ollama和OpenAI兼容的API

Open WebUI Github:https://github.com/open-webui/open-webui

Open WebUI 官网:https://www.openwebui.com/

搭建部署Open WebUI有两种方式:

1、Docker方式:(官方推荐的方式)

2、源码部署安装方式:(文档: https://docs.openwebui.com/getting-started/)

1、在docker中运行Open WebUI

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v D:\SoftData\Open-WebUI:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

这是一个 docker run 命令,用于启动一个新的 Docker 容器,下面是这个命令各个部分的解释:

docker run:这是 Docker 的命令,用于从指定的镜像启动一个新的容器;

-d:表示在“分离”模式下运行容器,即后台运行;

-p 3000:8080:端口映射,表示将宿主机的3000端口映射到容器的8080端口,当你访问宿主机的3000端口时,实际上会访问容器内的8080端口;

--add-host=host.docker.internal:host-gateway:这个选项向容器的 /etc/hosts 文件中添加一条记录,这通常用于让容器能够解析到宿主机的名称,并且将其 IP 地址设置为宿主机的网关地址,这在某些网络配置中很有用,尤其是当容器需要知道宿主机的地址时;

-v D:\SoftData\Open-WebUI:/app/backend/data:卷挂载,这表示将宿主机的 D:\SoftData\Open-WebUI 目录挂载到容器内的 /app/backend/data 目录,这样,容器和宿主机之间可以共享这个目录中的数据;

--name open-webui:为容器指定一个名称,这里是 open-webui;

--restart always:这个选项告诉 Docker 在容器退出时总是自动重启它,无论容器是因为何种原因退出,它都会自动重启;

ghcr.io/open-webui/open-webui:main:这是你要运行的 Docker 镜像的完整名称,ghcr.io 是 GitHub Container Registry 的地址,open-webui/open-webui 是镜像的仓库和名称,main是标签,通常表示该镜像的最新或主分支版本;

如遇Docker Desktop拉取镜像很慢,可配置阿里云镜像加速器,参考文章 

https://blog.csdn.net/MinggeQingchun/article/details/143575705

下载完成之后,查看Docker Desktop中容器Containers和Images

2、界面操作

 打开界面,网页输入地址:http://localhost:3000/

三、Lobe Chat

官网:https://lobehub.com/

Github:https://github.com/lobehub/lobe-chat

Built for you the Super Individual (专为你打造的超级个人)

现代化设计的开源 ChatGPT/LLMs 聊天应用与开发的UI框架;

支持语音合成、多模态、可扩展的(function call)插件系统;

一键免费拥有你自己的 ChatGPT/Gemini/Claude/Ollama 应用;

1、Lobe Chat 部署

1、使用 Vercel、Zeabur 或 Sealos 部署

2、使用 Docker 部署

docker run -d -p 3210:3210 -e OPENAI_API_KEY=sk-xxxx -e ACCESS_CODE=lobe66 --name lobe-chat lobehub/lobe-chat

完整的部署文档:https://lobehub.com/zh/docs/self-hosting/start

2、界面操作

打开界面,网页输入地址:http://localhost:3210/

(1)选择大模型

(2)语言模型选择API Key和API代理地址

(3)设置Ollama服务器地址以及大模型类型

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.xdnf.cn/news/12611.html

如若内容造成侵权/违法违规/事实不符,请联系一条长河网进行投诉反馈,一经查实,立即删除!

相关文章

特斯拉车速转向电量充电油门刹车档位车门座椅调节灯光信号采集

特斯拉CAN信号采集方案主要包括硬件连接、数据采集与配置、数据解析与可视化等步骤。速锐得主要采集和测试关于特斯拉车速转向电量充电油门刹车档位车门座椅调节灯光信号。 我们拆开特斯拉网关部分用于CAN总线的连接,将CANH和CANL接入到网关对应的CAN针脚&#xff0…

【LLM Agents体验 3】利用Open-WebUI+Ollama本地部署Qwen2.5:7B大模型的安装指南

Open WebUI是一种基于 Web 的用户界面,用于管理和操作各种本地和云端的人工智能模型。它提供了一个直观的图形化界面,使用户可以方便地加载、配置、运行和监控各种 AI 模型,而无需编写代码或使用命令行界面。 Open-WebUI 是一款功能强大且易于…

3.2 Fiddler基础测试

1 请求响应报文 1.1 请求部分 Headers:显示请求的头信息,重点关注请求类型。textView & SyntaxView:分别以纯文本和语法高亮的方式显示请求参数。WebForms:显示请求的 GET 参数和 POST body 内容。HexView:以十六…

《TCP/IP网络编程》学习笔记 | Chapter 9:套接字的多种可选项

《TCP/IP网络编程》学习笔记 | Chapter 9:套接字的多种可选项 《TCP/IP网络编程》学习笔记 | Chapter 9:套接字的多种可选项套接字可选项和 I/O 缓冲大小套接字多种可选项getsockopt & setsockoptSO_SNDBUF & SO_RCVBUF SO_REUSEADDR发生地址绑定…

ISAAC SIM踩坑记录--ROS2相机影像发布

其实这个例子官方和大佬NVIDIA Omniverse和Isaac Sim笔记5:Isaac Sim的ROS接口与相机影像、位姿真值发布/保存都已经有详细介绍了,但是都是基于ROS的,现在最新的已经是ROS2,这里把不同的地方简单记录一下。 搭建一个简单的场景&a…

【C++】模板(一):函数模板

大家好,我是苏貝,本篇博客带大家了解C的函数模板,如果你觉得我写的还不错的话,可以给我一个赞👍吗,感谢❤️ 目录 1.模板2. 函数模板1 概念2 函数模板的实例化(A) 隐式实例化:让编译…

通俗易懂的介绍期权如何开户以及条件与规则!

一文带你了解通俗易懂的介绍期权如何开户以及条件与规则,一般在证券和期货开通期权账户是需要满足基本的验资门槛,而期权平台是可以在线上开通的。具体的期权开户过程可以参考以下几个步骤。 一、期权开户的条件和流程 1. 年龄要求:投资者必…

【go从零单排】Text Templates

🌈Don’t worry , just coding! 内耗与overthinking只会削弱你的精力,虚度你的光阴,每天迈出一小步,回头时发现已经走了很远。 📗概念 Go 中的文本模板(Text Templates)是通过 text/template 包…

mysql 常用命令(二)

1、创建空表 mysql> CREATE TABLE test ( id int(4) NOT NULL AUTO_INCREMENT, name char(20) NOT NULL, PRIMARY KEY (id) ) ENGINEInnoDB DEFAULT CHARSETlatin1;AUTO_INCREMENT:自增,下次插入数据,会自动增加ID的值,…

麦肯锡数字化转型方法论:系统性四步法

在全球范围内,众多企业纷纷投身于数字化转型,对价值链各环节产生深远影响。 数字化转型不仅能够创造价值,提高生产力,还能帮助企业保持竞争优势。 然而,大多数转型都因准备不充分而遭遇失败。 麦肯锡通过对全球上千个…

政企学习考试系统(源码+文档+部署+讲解)

本文将深入解析“政企学习考试系统”的项目,探究其架构、功能以及技术栈,并分享获取完整源码的途径。 系统概述 本项目名称为政企学习考试系统,是一款面向政企用户的在线学习与考试平台。该系统旨在为用户提供便捷、高效的学习和考核服务&a…

Jmeter基础篇(22)服务器性能监测工具Nmon的使用

一、前言 我们在日常做压测的过程中,不仅仅需要监控TPS,响应时间,报错率等这些系统基础性能数据,还需要对服务器的性能(如CPU、磁盘、内存、网络IO等)做监控,以求对系统运行过程中的硬件性能有…

三级等保安全解决方案,实施方案,整改方案(Word,PPT等相关资料学习)

信息系统进行三级等保的主要原因在于保障信息安全,维护国家安全和公共利益。三级等保是我国根据相关法律法规制定的信息安全等级保护制度中的一部分,旨在确保信息系统的完整性、可用性和保密性。通过三级等保,信息系统可以得到一系列的安全保…

Springboot 使用EasyExcel导出含图片并设置样式的Excel文件

Springboot 使用EasyExcel导出含图片并设置样式的Excel文件 Excel导出系列目录:★★★★尤其注意:引入依赖创建导出模板类逻辑处理controllerservice 导出效果总结 Excel导出系列目录: 【Springboot 使用EasyExcel导出Excel文件】 【Springb…

老破机器硬盘要坏,转移虚拟机里的打字平台过程全记录

我有一台老破机器,说破其实没多破,但是老应该是有几年了,这机器一开始一直放在领导办公室不让人用,后来因为单位整体搬迁,我跟领导讨了来,win10的系统,我装了个虚拟机好像是15的版本&#xff0c…

光流法与直接法在SLAM中的应用

本文总结视觉SLAM中常用的光流法与直接法 1、Lucas-Kanade光流法 相机所拍摄到的图像随相机视角的变化而变化,这种变化也可以理解为图像中像素的反向移动。“光流”(Optical Flow)是指通过分析连续图像帧来估计场景中像素或特征点的运动的技…

VPN相关学习笔记

目录 VPN IPSec AH ESP IKE 工作流程 SSL SSL协议 握手协议 记录协议 警告协议 非对称密钥协商过程 SSL VPN工作 两种技术对比 VPN 介绍:VPN创建了一个专用隧道,用于安全地传输数据。Internet协议安全(IPSec)和安全套…

通过条件访问策略增强企业的安全性

在当今的数字时代,保护组织的数据比以往任何时候都更加重要,实现这一目标的一种方法是实施条件访问策略。这些策略有助于管理谁可以访问组织的网络,确保只有经过授权的人员才能通过,它们可以充当组织数据的保安,只让符…

二叉树搜索树(上)

二叉树搜索树(上) 概念 二叉搜索树又称二叉排序树,它或者是一颗空树,或者是具有以下性质的二叉树: • 若它的左子树不为空,则左子树上所有结点的值都⼩于等于根结点的值 • 若它的右子树不为空,则右子树…

人群计数制作私有数据集教程-----自用

一、人群计数的数据集包括两部分:图像部分和标签部分 1.公开数据集格式 标签部分主要包括每个人头的坐标点:(x, y); 常见的标签格式例如:ShanghaiTech数据集中的格式,用mat文件存储每个人头的坐…