double x = 2.5,y = 4;
System.out.println("x/y="+x/y);//x/y=输出0.625
double m=2.1,n=3;
System.out.println("m/n="+m/n);//输出m/n=0.700000000000000001
这里我们发现x/y的值是正确的，而m/n得到值并不是我们想要的结果，为什么会这样呢
原理是
十进制小数转换成二进制小数采用"乘2取整，顺序排列"法。具体做法是：用2乘十进制小数，可以得到积，将积的整数部分取出，再用2乘余下的小数部分，又得到一个积，再将积的整数部分取出，如此进行，直到积中的整数部分为零，或者整数部分为1，此时0或1为二进制的最后一位。或者达到所要求的精度为止。
然后把取出的整数部分按顺序排列起来，先取的整数作为二进制小数的高位有效位，后取的整数作为低位有效位。
十进制小数转二进制
如：0.625=（0.101）B
0.625*2=1.25======取出整数部分1
0.25*2=0.5========取出整数部分0
0.5*2=1==========取出整数部分1
再如：0.7=（0.1 0110 0110...）B
0.7*2=1.4========取出整数部分1
0.4*2=0.8========取出整数部分0
0.8*2=1.6========取出整数部分1
0.6*2=1.2========取出整数部分1
0.2*2=0.4========取出整数部分0
0.4*2=0.8========取出整数部分0
0.8*2=1.6========取出整数部分1
0.6*2=1.2========取出整数部分1
0.2*2=0.4========取出整数部分0
...
改进
DecimalFormat r=new DecimalFormat();
r.applyPattern("#0.0");//保留小数位数，不足会补零
System.out.println("m/n="+r.format(m/n));//输出0.7 |
收藏
淘帖
踩
