黑马程序员技术交流社区

标题: 关于精度的问题 [打印本页]

作者: 倉促、尋找你    时间: 2014-1-12 22:36
标题: 关于精度的问题

System.out.println(0.314*100==31.4);//true
System.out.println(0.0314*100==3.14);//false

运行了下上面的程序,为啥后一个结果是false。这个结果jvm底层是怎样计算的?


作者: 徐毅    时间: 2014-1-13 00:34
java中的简单浮点数类型float和double不能进行运算,会损失精度,因为double用二进制计算,二进制不能储存小数点,只能以2的多少次方储存。你的第一个计算结果为31.4,0.4储存在二进制不会丢失精度,而后面的3.14中0.14会丢失精度,所以算出结果实际上是3.1399999999999997,当然跟3.14不相等,故而输出结果为false




欢迎光临 黑马程序员技术交流社区 (http://bbs.itheima.com/) 黑马程序员IT技术论坛 X3.2