Webui 显卡有显存,会报错:CUDA out of memory

Webui 显卡明明有显存,会报错:CUDA out of memory

网上找了很多资料,都没有能解决这个问题 ,后来发现和电脑虚拟内存设置有关,这里记录一下具体的解决方法:

什么是 CUDA Out of Memory 错误?

基本定义
CUDA内存不足是指,当你在深度学习或GPU编程中分配了超过GPU显存容量的内存时,CUDA驱动程序无法再分配新的内存块,从而引发错误。这是由GPU硬件资源的限制导致的常见问题,尤其是在处理大数据集或超大型神经网络模型时。

出错提示如下:

torch.cuda.OutOfMemoryError: CUDA out of memory. Tried to allocate 30.00 MiB. GPU 0 has a total capacty of 16.00 GiB of which 12.25 GiB is free. Of the allocated memory 2.43 GiB is allocated by PyTorch, and 126.88 MiB is reserved by PyTorch but unallocated.
出现这个问题是因为主机虚拟内存设置的比较小或者没设置,导致电脑可和显存进行交换的内存不足, 从而会报CUDA out of memory

在运行 PyTorch 程序时,数据通常会先加载到主机的 物理内存(RAM) 中,然后再传输到显存。如果主机的 RAM
不足,操作系统会将部分数据存放到 虚拟内存(通常是硬盘上的交换空间)中。

当你加载非常大的数据集、模型或进行大量的预处理时,如果 RAM 不足,操作系统会将部分数据移动到虚拟内存中。

遇到这种情况,可以将电脑主机虚拟内存的设置调大来解决
点击

电脑 ->属性 ->高级系统设置 ->"性能"设置->虚拟内存设置

这边虚拟内存设置过小(2.5G左右),导致PyTorch 分配了2.43 G 后,不够用了 Of the allocated memory 2.43 GiB is allocated by PyTorch 所以建议把虚拟内存设置大一点
在这里插入图片描述

调整后如下:
这里选择E盘作为虚拟 内存分配,配置了30GB, 这样就不会报CUDA out of memory
在这里插入图片描述

另外, 如果要查看 显卡内存的使用情况大小,可以使用nvidia-smi 进行查看

在这里插入图片描述

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.xdnf.cn/news/146582.html

如若内容造成侵权/违法违规/事实不符,请联系一条长河网进行投诉反馈,一经查实,立即删除!

相关文章

SAP B1 Web Client MS Teams App集成连载三

过程/Procedure: 1.在应用商店中,点击启动 SAP Business One 应用。应用详细信息页面显示如下。 In the Apps store, click SAP Business One app to launch it. The app details page is displayed as below 2.在左上角,有一个包含两个选项的…

淘宝扭蛋机小程序,扭蛋机文化下的新体验

在数字化时代中,扭蛋机逐渐从传统的线下机器转移到了线上互联网中,市场得到了创新发展。扭蛋机小程序具有便捷、多样化、个性化的特点,迎合了当下消费者的线上消费习惯,又能够让扭蛋机玩家体验到新鲜有趣的扭蛋。 扭蛋机是一种热…

光伏板缺陷红外检测数据集

光伏板缺陷红外检测数据集 包含以下4个数据文件: /train:训练集 /valid:验证集 /test:测试集 README.txt:数据说明 【数据说明】检测目标以Pascal VOC格式进行标注,对每个图像进行以下预处理,统…

PCIE集成验证(五)MSI/MSI-X中断

PCI 总线最早采用的中断机制是 INTx,这是基于边带信号的。后续的 PCI/PCI-X版本,为了消除边带信号,降低系统的硬件设计复杂度,逐渐采用了 MSI(Message Signaled Interrupt)/MSI-X(消息信号中断)的中断机制。…

救生圈检测系统源码分享

救生圈检测检测系统源码分享 [一条龙教学YOLOV8标注好的数据集一键训练_70全套改进创新点发刊_Web前端展示] 1.研究背景与意义 项目参考AAAI Association for the Advancement of Artificial Intelligence 项目来源AACV Association for the Advancement of Computer Visio…

使用Renesas R7FA8D1BH (Cortex®-M85)和微信小程序App数据传输

目录 概述 1 系统架构 1.1 系统结构 1.2 系统硬件框架结构 1.3 蓝牙模块介绍 2 微信小程序实现 2.1 UI介绍 2.2 代码实现 3 上位机功能实现 3.1 通信协议 3.2 系统测试 4 下位机功能实现 4.1 功能介绍 4.2 代码实现 4.3 源代码文件 5 测试 5.1 编译和下载代码…

微服务基础设施选型

微服务基础设施架构 微服务基础设施架构全貌 微服务 vs SOA (Round 2) 微服务数量越多越复杂 微服务 vs SOA (Round 3) 微服务把服务的粒度变小,进行了标准化拆分。同时也将ESB拆分为了微服务。 微服务基础设施优先级 这里面体现了基础设施的优先级,如…

人工智能之就业方向(The Employment Direction of Artificial Intelligence)

💝💝💝欢迎来到我的博客,很高兴能够在这里和您见面!希望您在这里可以感受到一份轻松愉快的氛围,不仅可以获得有趣的内容和知识,也可以畅所欲言、分享您的想法和见解。 推荐:Linux运维老纪的首页…

银河麒麟桌面操作系统V10(SP1)离线升级SSH(OpenSSH)服务

目录 前言 准备工作 准备与目标服务器相同版本的操作系统 准备编译依赖包 下载OpenSSL源码包 下载OpenSSH源码包 升级OpenSSH服务 查看当前版本信息 安装编译依赖包 安装OpenSSL 安装OpenSSH 前言 OpenSSH是一个广泛使用的开源SSH(安全壳)协议的实现,它提供了安…

手机自动化测试环境之夜神模拟器inspector部署验证

1、自动化测试环境部署_总览图检查表流程图 Python需要安装Appium-Python-Clicent去定位元素;Appium是一个中间的服务器,它需要依赖node.js,python的脚本通过appium和手机进行交互;手机app的环境都是java环境,先安装jd…

PMBOK® 第六版 排列活动顺序

目录 读后感—PMBOK第六版 目录 职场中有句玩笑话:“工作是永远做不完的,任何时候都不可能做完。”这里所吐槽的要点就在于工作任务繁多以及工作缺乏秩序。工作确实是做不完的,倘若工作都能完成,那也就不需要工作了。 工作中令人…

【服务器第二期】mobaxterm软件下载及连接

【服务器第二期】mobaxterm软件下载及连接 前言什么是SSH什么是FTP/SFTP mobaxterm软件介绍mobaxterm软件下载SSH登录使用方法1-新建ssh连接方法2-打开已有的ssh连接方法3-通过ssh命令建立连接 SFTP数据传输方法1-建立ssh连接后直接拖拽方法2-建立sftp连接再拖拽方法3-直接使用…

SURILL MILL搭配cnc机器的打样(3维导入 使用)

导入STP文件,然后 选择 ,点击 曲面里的 曲面 炸开 (和曲线分开 ) 到处曲面 的面与 面的先分开了 看 实际情况 ,接下来 也可以 曲线炸开 来 分解 组合 然后 ,此时选择面还是没有生产成线 点击文件 那一行的曲面 绘制 ,借助曲面…

华为云centos7.9按装ambari 2.7.5 hostname 踩坑记录

华为云centos7.9按装ambari 2.7.5踩坑记录 前言升华总结 前言 一般都是废话,本人专业写bug业余运维。起初找了三台不废弃的台式机,开始重装centos系统,开始了HDP3.1.5Ambari2.7.5安装。 推荐一波好文,一路长绿。跑了一段时间没啥…

3DMAX乐高积木插件LegoBlocks使用方法

3DMAX乐高积木插件LegoBlocks,用户可以通过控件调整和自定义每个乐高积木的外观和大小。 【适用版本】 3dMax2009或更高版本(不仅限于此范围) 【安装方法】 3DMAX乐高积木插件无需安装,使用时直接拖动插件脚本文件到3dMax视口中…

适用于 Windows 的 7 大数据恢复工具,可靠的数据恢复工具可有效地恢复丢失的文件

数据丢失可能是一种令人沮丧的经历,无论是由于意外删除、磁盘格式化还是系统崩溃。幸运的是,Windows 用户可以使用几种可靠的数据恢复工具来有效地恢复丢失的文件。以下是前七名数据恢复工具的综述,包括奇客数据恢复产品: 适用于 …

大数据新视界 --大数据大厂之 Node.js 与大数据交互:实现高效数据处理

💖💖💖亲爱的朋友们,热烈欢迎你们来到 青云交的博客!能与你们在此邂逅,我满心欢喜,深感无比荣幸。在这个瞬息万变的时代,我们每个人都在苦苦追寻一处能让心灵安然栖息的港湾。而 我的…

物理学基础精解【7】

文章目录 平面方程直角坐标及基本运算 参考文献 平面方程 直角坐标及基本运算 向量的四则运算 下面由文心一言自动生成 向量的四则运算主要包括加法、减法、数乘(标量乘法)和数量积(点积或内积),但通常不直接称为“除…

CANopen通讯协议笔记

CANopen通讯协议笔记 CANopen 通信对象编号CANopen整体框架网络管理(NMT)主要任务上线报文心跳报文过程数据对象(PDO)SDO服务数据对象对象字典概述 CANopen 通信对象编号 CANopen报文传输采用 CAN 标准帧格式。 这里的CAN-ID也叫…

互联网全景消息(5)之RocketMq快速入门(下)

一、RocketMQ的存储设计 1.1 Domain Model 1.1.1 Message Message是RocketMQ消息引擎中的主体。messageId是全局唯一的。MessageKey是业务系统(生产者)生成的,所以如果要结合业务,可以使用MessageKey作为业务系统的唯一索引。 1.1.2 Topic subTopics==Message Queue,其实…