当前位置:   article > 正文

mysql中varchar与bigint直接比较会导致精度丢失以至于匹配到多行数据_mysqlbigint 丢失精度

mysqlbigint 丢失精度

  在mysql中,我们都知道如果一个索引字段使用了函数或者计算那么查询的时候索引会失效,可是我相信在联表的时候我们只会关注两个表关联字段是否都创建了索引,却没有关注过这两个字段的类型是否一致,如果不一致的话索引是会失效的,因为数据库会对两个不同类型的字段进行隐式的类型转换。
  上面的坑倒比较容易发现,但是在mysql存储过程中如果你的变量声明的时候是bigint,但是与他比较的字段是varchar的时候就不容易发现了。我今天在执行一个存储过程的时候我发现结果不对,明明在表中这个字段值是唯一的但是执行的时候就会查出多条报错子查询返回多行数据。
  简单说,我有一个表q1,它的表结构如下:
在这里插入图片描述
数据大致长这样,c4是连续的19位的bigint(其实就是雪花值,但是存进去的时候没有注意到c4是varchar的),从1111111111111111111开始递增,有200多行
在这里插入图片描述
  我执行以下sql,能查出122行数据:

select c4 from q1 where c4 = 1111111111111111111 -- 122
  • 1

在这里插入图片描述
  我执行以下sql,能准确查出行1数据:

select c4 from q1 where c4 = '1111111111111111111' -- 1
  • 1

在这里插入图片描述
  1111111111111111111很明显是一个19位的bigint并没有超出bigint的范围,在存储过程中我声明的时候就是bigint,只不过我在这简单举例了。很显然后者才是我们期望的数据,我并没有搜到mysql官方说varchar类型与bigint比较的时候会先转换为那种类型进行判断,只知道会先进行隐式类型转换再进行比较(如果有朋友知道原理的话欢迎赐教)。我把c4字段类型从varchar改为bigint后发现上面两个sql查询结果都只有一行。
  经过我的尝试,在c4仍为varchar的情况下,我觉得varchar与bigint进行比较的时候mysql应该是先转换为双精度浮点数double再进行比较的,由于bigint的位数超过了16位所以会导致丢失一部分精度,所以会匹配上多行数据。
  而在mysql中double的精度的精度为16位有效数据,我将其中两行改为16为长度的数字11111111111111111111111111111112,然后用下面的sql直接查16位的1111111111111111结果只有一行:

select c4 from q1 where c4 = 1111111111111111;-- 16位,只有一行准确结果
  • 1

在这里插入图片描述
这说明在double的范围是准确的。
  因此如果要比较varchar和bigint类型的话,如果允许的话就改为统一的类型进行比较。也可以将bigint转换为varchar进行比较,或者两者都使用更高精度的Decimal类型进行比较。
  我猜测隐式转换为double也是和下面的查询有关:

select c4 + '0' 隐式类型转换,c4,cast(c4 as Decimal(19,0)) `Decimal`
from q1 
  • 1
  • 2

在这里插入图片描述
一看第一列是双精度浮点数(double)类型,结合上面的16为精度测试所以这么猜测。

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/繁依Fanyi0/article/detail/581816
推荐阅读
相关标签
  

闽ICP备14008679号