黑马程序员技术交流社区

标题: 关于数值运算，精度问题 [打印本页]

---

作者: 孔斌    时间: 2013-1-28 12:26
标题: 关于数值运算，精度问题

1. public class Test1 {
   
2. 
   
3.         /**
   
4.          * 有关数值运算的问题
   
5.          */
   
6.         public static void main(String args[]){
   
7.                 System.out.println(2.00 - 0.10);//1.9
   
8.                 System.out.println(2.00 - 1.10);//0.8999999999999999
   
9.         }
   
10. }

复制代码

为啥结果是这样的呢？

---

作者: 王少雷    时间: 2013-1-28 13:02
1.1这个数字不能被精确表示
为一个double，因此它被表示为最接近它的double 值，该程序从2 中减去的就是这个值，
但这个计算的结果并不是最接近0.9 的double值。
因为Java表示浮点数是使用二进制标示的，而0.1即1/10是无法用二进制来表示的：
2进制表示小数的时候只能够表示能够用1/(2^n)的和的任意组合
http://leowzy.iteye.com/blog/792509

---

作者: 刘军亭    时间: 2013-1-28 17:19
public class Test1 {


        /**

         * 有关数值运算的问题

         */

        public static void main(String args[]){

                System.out.println(2.00 - 0.10);//1.9 //2.00和0.10并不是2和0.1而是很接近他们的数字，下面也一样

                System.out.println(2.00 - 1.10);//0.8999999999999999

        }

}

---

作者: 邝雄伟    时间: 2013-1-29 01:22
double类型是这样的。。它默认是double类型  而double是有精确度的  不能保证准确的其实你自己看一下double类型的api文档就明白了出现这种问题的原因是浮点数值是采用二进制系统表示的，而在系统中无法精确的表示分数1/10。需要在计算中不含有任何舍入误差，就应该使用BigDecimal类。2.00是double，1.10是double，double减double还是double，double是浮点数，精度其实是有限的，最后输出就变这鸟样了

---

欢迎光临 黑马程序员技术交流社区 (http://bbs.itheima.com/)

黑马程序员IT技术论坛 X3.2