您好, 欢迎来到 !    登录 | 注册 | | 设为首页 | 收藏本站

浮点和十进制数据类型之间的区别

浮点和十进制数据类型之间的区别

是我对此有疑问时发现的。

MysqL> create table numbers (a decimal(10,2), b float);
MysqL> insert into numbers values (100, 100);
MysqL> select @a := (a/3), @b := (b/3), @a * 3, @b * 3 from numbers \G
*************************** 1. row ***************************
  @a := (a/3): 33.333333333
  @b := (b/3): 33.333333333333
@a + @a + @a: 99.999999999000000000000000000000
@b + @b + @b: 100

十进制完全符合这种情况下的预期,截断了其余部分,从而丢失了1/3的部分。

因此对于总和,小数点更好,但是对于除数,浮点数更好,当然到了某种程度。我的意思是,使用DECIMAL不会以任何方式为您提供“防故障算法”。

希望这可以帮助。

其他 2022/1/1 18:19:45 有483人围观

撰写回答


你尚未登录,登录后可以

和开发者交流问题的细节

关注并接收问题和回答的更新提醒

参与内容的编辑和改进,让解决方法与时俱进

请先登录

推荐问题


联系我
置顶