黑马程序员技术交流社区
标题:
2.浮点数类型运算存在不确定尾数，0.1 + 0.2 并不等于 0.3
[打印本页]
作者:
奕诺贝尔
时间:
2018-10-8 10:07
标题:
2.浮点数类型运算存在不确定尾数，0.1 + 0.2 并不等于 0.3
为什么出现这种情况呢？由于浮点数运算的时候，在计算机内部是二进制进行计算的，计算机中小数的二进制是一个无限由0和1组成的二进制，运算完后变成十进制会产生尾数，因此运算会接近0.3，在运用浮点数做运算比较的时候，就需要注意这一点。另外浮点数和小数都精度都存在限制，但常规一般忽略：
-10**-307 到 10**308，精度数量级为10**-16.
欢迎光临 黑马程序员技术交流社区 (http://bbs.itheima.com/)
黑马程序员IT技术论坛 X3.2
为什么出现这种情况呢？由于浮点数运算的时候，在计算机内部是二进制进行计算的，计算机中小数的二进制是一个无限由0和1组成的二进制，运算完后变成十进制会产生尾数，因此运算会接近0.3，在运用浮点数做运算比较的时候，就需要注意这一点。另外浮点数和小数都精度都存在限制，但常规一般忽略：