黑马程序员技术交流社区

标题: 关于浮点数精度问题 [打印本页]

---

作者: feng_ye    时间: 2015-10-16 23:34
标题: 关于浮点数精度问题
   double x = 2.5,y = 4;
   System.out.println("x/y="+x/y);//x/y=输出0.625
   double m=2.1,n=3;
    System.out.println("m/n="+m/n);//输出m/n=0.700000000000000001
这里我们发现x/y的值是正确的，而m/n得到值并不是我们想要的结果，为什么会这样呢
原理是
十进制小数转换成二进制小数采用"乘2取整，顺序排列"法。具体做法是：用2乘十进制小数，可以得到积，将积的整数部分取出，再用2乘余下的小数部分，又得到一个积，再将积的整数部分取出，如此进行，直到积中的整数部分为零，或者整数部分为1，此时0或1为二进制的最后一位。或者达到所要求的精度为止。

　　然后把取出的整数部分按顺序排列起来，先取的整数作为二进制小数的高位有效位，后取的整数作为低位有效位。　

　　十进制小数转二进制
　　如：0.625=（0.101）B
　　0.625*2=1.25======取出整数部分1
　　0.25*2=0.5========取出整数部分0
　　0.5*2=1==========取出整数部分1

　　再如：0.7=（0.1 0110 0110...）B
　　0.7*2=1.4========取出整数部分1
　　0.4*2=0.8========取出整数部分0
　　0.8*2=1.6========取出整数部分1
　　0.6*2=1.2========取出整数部分1
　　0.2*2=0.4========取出整数部分0　
　　0.4*2=0.8========取出整数部分0
　　0.8*2=1.6========取出整数部分1
　　0.6*2=1.2========取出整数部分1
　　0.2*2=0.4========取出整数部分0
    ...
改进
DecimalFormat r=new DecimalFormat();
r.applyPattern("#0.0");//保留小数位数，不足会补零
System.out.println("m/n="+r.format(m/n));//输出0.7

---

欢迎光临 黑马程序员技术交流社区 (http://bbs.itheima.com/)

黑马程序员IT技术论坛 X3.2