MySQL FLOAT 不准问题解析

哈喽,各位小伙伴们,你们好呀,我是喵手。运营社区:C站/掘金/腾讯云/阿里云/华为云/51CTO;欢迎大家常来逛逛

  今天我要给大家分享一些自己日常学习到的一些知识点,并以文字的形式跟大家一起交流,互相学习,一个人虽可以走的更快,但一群人可以走的更远。

  我是一名后端开发爱好者,工作日常接触到最多的就是Java语言啦,所以我都尽量抽业余时间把自己所学到所会的,通过文章的形式进行输出,希望以这种方式帮助到更多的初学者或者想入门的小伙伴们,同时也能对自己的技术进行沉淀,加以复盘,查缺补漏。

小伙伴们在批阅的过程中,如果觉得文章不错,欢迎点赞、收藏、关注哦。三连即是对作者我写作道路上最好的鼓励与支持!

MySQL FLOAT 不准问题解析

在数据库中处理浮点数时,尤其是在金融计算、科学计算或其他对精度要求较高的领域,可能会遇到一个常见的问题:浮点数不精确。这在 MySQL 中也不例外,尤其是当使用 FLOAT 类型存储数据时,用户经常会发现存储的数值与预期的数值存在微小的偏差。本文将探讨 MySQL 中 FLOAT 类型不准的问题,解释其背后的原因,并提出一些应对方法。

1. 什么是 FLOAT 类型?

在 MySQL 中,FLOAT 是一种用于存储浮点数的类型。浮点数(floating point number)是一种近似表示实数的小数形式的数据类型,常用于存储带有小数的数值。MySQL 提供了两种浮点数类型:

  • FLOAT:单精度浮点数,通常占用 4 个字节(32 位),可表示的范围较大,但精度有限。
  • DOUBLE:双精度浮点数,通常占用 8 个字节(64 位),相比 FLOAT,它可以提供更高的精度。

FLOAT 的定义语法:

column_name FLOAT[(M,D)]

其中:

  • M 表示浮点数的总位数(整数位+小数位)。
  • D 表示小数部分的位数。

例如:

CREATE TABLE example (price FLOAT(7, 2)
);

这个例子中,price 列的定义表明它最多可以存储 7 位数字,其中 2 位是小数。

2. FLOAT 不准的原因

2.1 浮点数的存储机制

浮点数的“不准”问题源于计算机存储和处理浮点数的方式。浮点数在底层是使用二进制来表示的,但很多十进制小数在二进制系统中无法精确表示。

例如,十进制的小数 0.1 在二进制中是一个无限循环小数(类似于十进制中的 1/3 是 0.333…),因此计算机在存储时必须将其截断或近似表示。这种近似就会导致精度的损失。

FLOAT 类型存储的是这种近似的值,而不是完全准确的值,这就是为什么 FLOAT 类型在一些场景中表现得“不准”的根本原因。

2.2 精度问题

FLOAT 类型是单精度浮点数,它使用 32 位存储浮点数,其中:

  • 1 位用于存储符号。
  • 8 位用于存储指数。
  • 23 位用于存储尾数。

这导致 FLOAT 的有效精度只有大约 7 位十进制数。对于超过这个精度的数值,FLOAT 可能会丢失部分精度。

示例:

CREATE TABLE example (val FLOAT
);INSERT INTO example (val) VALUES (0.1);
SELECT val FROM example;

在这个例子中,插入的值是 0.1,但在查询时,结果可能会显示 0.10000000149011612,这是因为 0.1 在二进制中无法精确表示,MySQL 只能存储其近似值。

2.3 运算中的精度损失

在进行浮点数运算时,这种精度损失可能会进一步累积。例如,当你对 FLOAT 类型的字段进行加法、减法或其他运算时,浮点数的舍入误差可能会导致结果与预期不符。

3. 应对 FLOAT 不准问题的解决方案

3.1 使用 DECIMAL 类型

在 MySQL 中,DECIMAL 类型是用于存储精确数值的最佳选择。与 FLOAT 不同,DECIMAL 是一种定点数类型,它使用字符串方式存储数值,因此不会出现 FLOAT 近似存储导致的精度问题。

DECIMAL 类型特别适合对精度要求较高的场景,例如货币计算。它可以精确表示用户指定的位数,不会产生浮点数中的舍入误差。

DECIMAL 的定义语法:
column_name DECIMAL(M, D)

其中:

  • M 表示数值的总位数(包括小数和整数)。
  • D 表示小数部分的位数。

例如:

CREATE TABLE example (price DECIMAL(10, 2)
);

在这个例子中,price 列最多可以存储 10 位数字,其中 2 位是小数。

使用 DECIMAL 可以确保诸如 0.1 这样的小数在存储时不会丢失精度。

3.2 使用 DOUBLE 类型

如果浮点数计算不可避免,但需要比 FLOAT 更高的精度,可以选择 DOUBLE 类型。DOUBLE 是双精度浮点数,占用 64 位存储空间,提供大约 15 位的十进制精度。尽管它仍然不能完全避免浮点数的精度问题,但它的精度远高于 FLOAT,适合对精度有一定要求但又不需要绝对精确的场景。

示例:
CREATE TABLE example (val DOUBLE
);

DOUBLE 类型适合需要处理较大范围浮点数的场景,并且比 FLOAT 更加精确。但它仍然有浮点数固有的近似存储问题,只是精度损失会少一些。

3.3 避免使用浮点数进行精确计算

如果需要处理金融数据、货币运算或其他对精度要求严格的场景,应该尽量避免使用浮点数进行计算。相反,使用 DECIMAL 或整数类型来表示这些数值。例如,在货币计算中,可以使用整数表示最小单位(如“分”或“厘”)来避免小数带来的精度问题。

-- 以整数形式存储货币,单位为“分”
CREATE TABLE transactions (amount_in_cents INT
);

这种方法确保所有的运算都在整数空间内进行,从而避免浮点数的不精确性。

4. 总结

MySQL 中的 FLOAT 类型因其存储方式的限制,存在精度损失的问题。这是因为浮点数在计算机底层以二进制形式存储,许多十进制小数无法精确表示,导致了浮点数“不准”的现象。

为了解决这一问题,用户可以根据具体需求选择不同的数据类型:

  • 对于精度要求非常高的场景,推荐使用 DECIMAL 类型,它能确保存储的数值精确无误。
  • 对于需要更高精度但仍接受一定程度近似的场景,可以使用 DOUBLE 类型。
  • 另外,在货币或计量单位等涉及小数运算的情况下,考虑使用整数存储以避免小数误差。

选择合适的数据类型是确保数据计算精确性和系统性能的关键。在使用 MySQL 时,了解每种数据类型的优缺点,有助于设计出更合理的数据库结构,避免精度损失带来的困扰。

… …

文末

好啦,以上就是我这期的全部内容,如果有任何疑问,欢迎下方留言哦,咱们下期见。

… …

学习不分先后,知识不分多少;事无巨细,当以虚心求教;三人行,必有我师焉!!!

wished for you successed !!!


⭐️若喜欢我,就请关注我叭。

⭐️若对您有用,就请点赞叭。

⭐️若有疑问,就请评论留言告诉我叭。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.xdnf.cn/news/148229.html

如若内容造成侵权/违法违规/事实不符,请联系一条长河网进行投诉反馈,一经查实,立即删除!

相关文章

PHP、Java等其他语言转Go时选择GoFly快速快速开发框架指南

概要 经过一年多的发展GoFly快速开发框架已被一千多家科技企业或开发者用于项目开发,它的简单易学得到其他语言转Go首选框架。且企业版的发展为GoFly社区提供资金,这使得GoFly快速框架得到良好的发展,GoFly技术团队加大投入反哺科技企业和开…

科研绘图系列:R语言ggplot2画热图(heatmap)

文章目录 介绍加载R包导入数据数据预处理画图导出数据系统信息介绍 热图(Heatmap)是一种数据可视化技术,它通过颜色的变化来表示数据的大小或者密度。热图通常用于展示两个变量之间的关系,或者在二维空间上展示数据的分布情况。以下是热图可以表示的一些内容: 数据分布:…

「C++系列」动态内存

【人工智能教程】,前些天发现了一个巨牛的人工智能学习网站,通俗易懂,风趣幽默,忍不住分享一下给大家。 点击跳转到网站:【人工智能教程】 文章目录 一、动态内存1. 使用new和delete①分配单个对象②分配对象数组 2. …

python全栈学习记录(十七)logging、json与pickle、time与datatime、random

logging、json与pickle、time与datatime、random 文章目录 logging、json与pickle、time与datatime、random一、logging二.json与pickle三.time与datatime四.random 一、logging logging模块用来记录日志信息。 import logging # 进行基本的日志配置 logging.basicConfig( fi…

图文深入理解SQL语句的执行过程

List item 本文将深入介绍SQL语句的执行过程。 一.在RDBMS(关系型DB)中,看似很简单的一条已写入DB内存的SQL语句执行过程却非常复杂,也就是说,你执行了一条诸如select count(*) where id 001 from table_name的非常简…

[WMCTF2020]Make PHP Great Again 2.01

又是php代码审计,开始吧. 这不用审吧,啊喂. 意思就是我们要利用require_once()函数和传入的file的value去读取flag的内容.,貌似呢require_once()已经被用过一次了,直接读取还不行,看一下下面的知识点. require_once() require…

WebLogic 漏洞复现

1、后台弱⼝令GetShell 默认账号密码:weblogic/Oracle123 weblogic常⽤弱⼝令:https://cirt.net/passwords?criteriaweblogic 这⾥注意, 单个账号错误密码5次之后就会⾃动锁定。 http://47.121.212.195:7001/console 2、登录后台后&#…

恒生科指八连涨,汽车股强势

9月20日电 周五,港股三大股指集体收涨。恒生指数涨1.36%报18258.57点,连续第六个交易日上涨;恒生科技指数涨1.43%报3703.84点,连续第八个交易日上涨,创逾两个月来新高;恒生中国企业指数涨1.21%报6381.5点&a…

项目扩展五:交互式:command-line interface版本的实现

项目扩展五:command-line interface版本的实现 一、CLI交互的设计1.为何要设计这个CLI交互2.具体设计1.启动服务2.选择信道3.选择虚拟机4.正式业务注意:1.消费者与生产者跟信道的关系2.消息处理回调函数的问题3.消息确认的问题 5.其他功能1.打印功能2.查…

STM32精确控制步进电机

目的:学习使用STM32电机驱动器步进电机,进行电机运动精确控制。 测试环境: MCU主控芯片STM32F103RCT6 ;A4988步进电机驱动器模块;微型2相4线步进电机10mm丝杆滑台,金属丝杆安装有滑块。 10mm二相四线微型…

机器学习之非监督学习(二)异常检测(基于高斯概率密度)

机器学习之非监督学习(二)异常检测(基于高斯概率密度) 0. 文章传送1.案例引入2.高斯正态分布3.异常检测算法4.异常检测 vs 监督学习5.算法优化6.代码实现 0. 文章传送 机器学习之监督学习(一)线性回归、多…

C语言中数组和字符串的联系

一、C语言中,数组和字符串 1、C语言中,定义一个数组后,数组名保存的是这个数组的首地址。类似一个指向数组第一个元素的指针,但是这个指针不能重新指向。2、字符串在C语言中是通过字符数组来实现的,也就是说字符串还是…

【小沐学CAD】3ds Max常见操作汇总

文章目录 1、简介2、二次开发2.1 C 和 3ds Max C SDK2.2 NET 和 3ds Max .NET API2.3 3ds Max 中的 Python 脚本2.4 3ds Max 中的 MAXScript 脚本 3、快捷键3.1 3Dmax键快捷键命令——按字母排序3.2 3dmax快捷键命令——数字键3.3 3dmax功能键快捷键命令3.4 3Dmax常用快捷键——…

Elasticsearch 完整格式的 URL 进行分词,有什么好的解决方案吗?

1、问题描述 我想对完整格式的 url 进行分词,请问有什么好的解决方案吗? 比如:https://www.abc.com/any/path?param_1some&param-2other#title 看了官方的分词器,感觉没啥合适的? 预处理的话,又不知道该怎么处理…

Unity对象池的高级写法 (Plus优化版)

唐老师关于对物体分类的OOD的写法确实十分好,代码也耦合度也低,但是我有个简单的写法同样能实现一样的效果,所以我就充分发挥了一下主观能动性 相较于基本功能,这一版做出了如下改动 1.限制了对象池最大数量,多出来的…

C++11 可变的模板参数

前言 本期我们接着继续介绍C11的新特性,本期我们介绍的这个新特性是很多人都感觉抽象的语法!它就是可变的模板参数! 目录 前言 一、可变的模板参数 1.1可变的参数列表 1.2可变的参数包 1.3可变参数包的解析 • 递归展开解析 • 逗号…

微服务Docker相关指令

1、拉取容器到镜像仓库 docker pull xxx //拉取指令到 镜像仓库 例如 docker pull mysql 、docker pull nginx docker images //查看镜像仓库 2、删除资源 2.1、删除镜像仓库中的资源 docker rmi mysql:latest //删除方式一:格式 docker rmi 要…

【解密 Kotlin 扩展函数】扩展函数的创建(十六)

导读大纲 1.1 为第三方的类添加方法: 扩展函数 1.1 为第三方的类添加方法: 扩展函数 Kotlin 的主题之一是与现有代码的平滑集成 即使是纯 Kotlin 项目,也是构建在 Java 库之上的 如 JDK、Android 框架和其他第三方框架 而当你将 Kotlin 集成到 Java 项目中时 你还要处理尚未或不…

python爬虫:将知乎专栏文章转为pdf

欢迎关注本人的知乎主页~ 实现思路 用户输入专栏ID: 代码首先提示用户输入一个知乎专栏的ID,默认值为 c_1747690982282477569。输入的ID用于构建API请求的URL。 发送HTTP请求: 使用 requests.get() 向知乎API发送GET请求,获取指定…

【QGIS入门实战精品教程】6.1:QGIS根据属性条件查询数据(SQL表达式)

文章目录 一、字段过滤二、高级过滤(表达式)一、字段过滤 对于单个字段的查询,可以采用字段过滤,例如,从县区数据中,根据NAME字段,查找出县级市玉门市。操作为:右键县区→打开属性表: 点击左下角,选择name字段。 输入玉门市,回车,选择查找除的属性表记录,此时图斑…