当前位置: 首页 > news >正文

在另外一台可以科学下载的电脑用ollama下载模型后,怎么导入到另外一台服务器的ollama使用

环境:

Win10专业版

Ubuntu20.04

问题描述:

在另外一台可以科学下载的电脑用ollama下载模型后,怎么导入到另外一台服务器的ollama使用,原电脑win10上的ollama下载的模型,复制到ubuntu20.04的ollama上推理

在这里插入图片描述

解决方案:

一、Windows端模型文件定位与提取

  1. 定位模型存储路径
    Windows默认路径:C:\Users\[用户名]\.ollama\models
    需复制两个核心目录:
    blobs:存放所有模型二进制文件(文件名以sha256哈希值命名)
    manifests:包含模型元数据(路径为manifests/registry.ollama.ai/library/[模型名]/版本文件

在这里插入图片描述
在这里插入图片描述

  1. 选择性提取文件

    在这里插入图片描述

二、Ubuntu端模型部署

  1. 目录准备与权限设置
 /usr/share/ollama/.ollama/models/chmod -R a+w /usr/share/ollama/.ollama/models
  1. 文件传输

找到对应模型文件
在这里插入图片描述
上传到服务器
在这里插入图片描述

三、服务验证

  1. 重启Ollama服务(一般不重启,没读到再重启试试)

    sudo systemctl restart ollama
    
  2. 模型状态检查

    # 查看模型列表
    ollama list

就会出现新迁移的模型,最后run一下试试
在这里插入图片描述

四、常见问题处理

问题现象解决方案
模型列表不显示检查manifests目录结构是否为registry.ollama.ai/library/[模型名]/版本文件
推理时报权限错误执行sudo chmod -R 755 /usr/share/ollama/.ollama/models
服务启动失败检查systemd配置:sudo journalctl -u ollama.service -b
显存不足导致推理中断改用较小参数模型(如1.5b替代7b),或添加swap空间

迁移验证要点

  1. 对比Windows与Ubuntu的blobs目录文件哈希值(使用sha256sum命令)
  2. 确保manifest文件中的digest值与实际blobs文件对应
  3. 通过ollama ps查看模型加载状态
http://www.xdnf.cn/news/196057.html

相关文章:

  • 龙虎榜——20250428
  • 前端excel导出
  • 北重数控滑台加工厂家:汽车零部件试验铁地板-安全性能的测试方法
  • dameng-mcp-server达梦MCP服务
  • Web基础和HTTP协议
  • cuDNN 安装、版本查看及指定版本删除操作指南
  • 网络准入控制系统推荐:2025年构建企业网络安全的第一道防线
  • 运维打铁:域名详解及常见问题解决
  • 【C++】线程池
  • 【问题】docker容器修改环境变量的方式
  • SplitReason:在复杂步骤借助更大尺寸模型推理,1.5B+32B,实现准确率28%提升+8倍速度提升
  • 编程日志4.23
  • 【Linux内核设计与实现】第三章——进程管理05
  • SSO单点登录
  • 通过DeepSeek大语言模型控制panda机械臂,听懂人话,拟人性回答。智能机械臂助手又进一步啦
  • 大模型在肝硬化腹水风险预测及临床方案制定中的应用研究
  • AWS虚拟专用网络全解析:从基础到高级实践
  • 【Spark入门】Spark架构解析:组件与运行机制深度剖析
  • vim粘贴代码格式错乱 排版错乱 缩进错乱 解决方案
  • 【软件工程】需求分析详解
  • 24体育NBA足球直播M28模板体育赛事直播源码
  • 介绍下Nginx的作用与请求转发机制
  • Windows操作系统核心知识解析
  • C++ 表达式求值优先级、结合律与求值顺序(五十九)
  • 关于https请求丢字符串导致收到报文解密失败问题
  • 第二章:Agent System
  • RestRequest ,newtonsoft解析
  • 大模型(LLMs)强化学习—— PPO
  • 【angular19】入门基础教程(一):项目的搭建与启动
  • 如何查看电脑电池使用情况