Ubuntu20.04 Ollama 配置相关

Ubuntu20.04 Ollama 配置相关

ollama修改配置文件常用命令

sudo gedit /etc/systemd/system/ollama.service 
systemctl daemon-reload
systemctl restart ollama
systemctl status ollama

修改端口

[Unit]
Description=Ollama Service
After=network-online.target[Service]
ExecStart=/usr/bin/ollama serve
User=ollama
Group=ollama
Restart=always
RestartSec=3
Environment="PATH=$PATH"
Environment="OLLAMA_HOST=0.0.0.0:11451"[Install]
WantedBy=default.target

修改端口后，访问指令方式
把Ollama的默认端口修改后，如果再运行：
ollama ps
则会报下面的错：
Error: could not connect to ollama app, is it running?

感觉似乎是没有运行一样，运行ollama list也是一样的结果，但是如果查看服务的状态：
sudo systemctl status ollama
可以看到服务是active的。百思不得其解，以为是ollama的bug，结果在这里看到：
https://github.com/ollama/ollama/issues/2928
原来改过端口之后要加端口号才能正常运行命令：

OLLAMA_HOST=127.0.0.1:11451 ollama list
OLLAMA_HOST=127.0.0.1:11451 ollama ps
OLLAMA_HOST=127.0.0.1:11451 ollama run qwen2:72b

主要是要加上端口号才能正常运行。修改完.service文件，需要重新启动一下服务：

sudo systemctl daemon-reload
sudo systemctl restart ollama

暂时还不清楚127.0.0.1的作用是什么

局域网访问

hostname -I 查看本机IP（Ollama部署端）
局域网电脑访问ip:11451观察是否显示Ollama is running

---

参考：
ollama如何修改服务端口号