黑马程序员技术交流社区

标题: double精度问题 [打印本页]

作者: 刘永滨 时间: 2014-5-14 16:25
标题: double精度问题
double A,B,C,D;
A： 0.500000 B： 0.500000 C： 0.500000 D:1.500000
用D-A-B-C=0.000001这样的精度问题怎么解决？求解

作者: pandapan 时间: 2014-5-15 13:16
虽然提问的问题结束了，但是我还是解释一下吧。
java中double 等数据类型精度是个比较恶搞的。在Effective Java中提到，float和double只能用作科学计算或者工程计算，在普通的商业计算，即精算精度要求很高的情况下和计算是否相等的情况下，咱们应该使用的是BigDecimal.使用这个来包装Double对象，这样计算出来的是准确的。使用BigDecimal来就素那加载乘除，算完之后一般使用String输出，另外，如果只是为了单纯的保留几位小数的问题，可以考虑使用DecimalFormat。
希望能够帮到你

作者: pandapan 时间: 2014-5-15 13:17
晚上下班时，再将详细的例子写给你

作者: 136616244 时间: 2014-5-15 15:15

pandapan 发表于 2014-5-15 13:17
晚上下班时，再将详细的例子写给你

effective java有详细介绍浮点数吗？

作者: pandapan 时间: 2014-5-15 22:28

136616244 发表于 2014-5-15 15:15

D:\\upLoad.png

upLoad.png (262.27 KB, 下载次数: 39)

effective java中讲解的

作者: pandapan 时间: 2014-5-15 22:31

136616244 发表于 2014-5-15 15:15
effective java有详细介绍浮点数吗？

那个上面讲解了一个示例，看看就能明白的，希望能够帮到你，同学

作者: 136616244 时间: 2014-5-16 07:06

pandapan 发表于 2014-5-15 22:31
那个上面讲解了一个示例，看看就能明白的，希望能够帮到你，同学

我想了解下十进制浮点数是如何转化为为二进制表示的，以前好像学过又忘了，小数点后面的是2^-1,2^-2,2^3.......
我想看看如何手动转化的，之前也百度了一下没看懂。

作者: pandapan 时间: 2014-5-16 17:55
要不还是给你个网页地址吧，感觉人家写的挺好的，图文并茂，如果感觉还是不明白的话，咱们再沟通。
http://www.360doc.com/content/11/0308/14/5327079_99222581.shtml

作者: 墨香 时间: 2014-5-17 23:08
使用Java，double 进行运算时，经常出现精度丢失的问题，总是在一个正确的结果左右偏0.0000**1。特别在实际项目中，通过一个公式校验该值是否大于0，如果大于0我们会做一件事情，小于0我们又处理其他事情。这样的情况通过double计算出来的结果去和0比较大小，尤其是有小数点的时候，经常会因为精度丢失而导致程序处理流程出错。
   所以一般对double类型进行运算时，做好对结果进行处理，然后拿这个值去做其他事情。

   目前总结如下：

   /**
   * 对double数据进行取精度.
   * @param value  double数据.
   * @param scale  精度位数(保留的小数位数).
   * @param roundingMode  精度取值方式.
   * @return 精度计算后的数据.
   */
public static double round(double value, int scale,
         int roundingMode) {
      BigDecimal bd = new BigDecimal(value);
      bd = bd.setScale(scale, roundingMode);
      double d = bd.doubleValue();
      bd = null;
      return d;
}

   /**
   * double 相加
   * @param d1
   * @param d2
   * @return
   */
public double sum(double d1,double d2){
      BigDecimal bd1 = new BigDecimal(Double.toString(d1));
      BigDecimal bd2 = new BigDecimal(Double.toString(d2));
      return bd1.add(bd2).doubleValue();
}

/**
   * double 相减
   * @param d1
   * @param d2
   * @return
   */
public double sub(double d1,double d2){
      BigDecimal bd1 = new BigDecimal(Double.toString(d1));
      BigDecimal bd2 = new BigDecimal(Double.toString(d2));
      return bd1.subtract(bd2).doubleValue();
}

/**
   * double 乘法
   * @param d1
   * @param d2
   * @return
   */
public double mul(double d1,double d2){
      BigDecimal bd1 = new BigDecimal(Double.toString(d1));
      BigDecimal bd2 = new BigDecimal(Double.toString(d2));
      return bd1.multiply(bd2).doubleValue();
}

/**
   * double 除法
   * @param d1
   * @param d2
   * @param scale 四舍五入小数点位数
   * @return
   */
public double div(double d1,double d2,int scale){
      //  当然在此之前，你要判断分母是否为0，
      //  为0你可以根据实际需求做相应的处理

      BigDecimal bd1 = new BigDecimal(Double.toString(d1));
      BigDecimal bd2 = new BigDecimal(Double.toString(d2));
      return bd1.divide
            (bd2,scale,BigDecimal.ROUND_HALF_UP).doubleValue();
}

这样，计算double类型的数据计算问题就可以处理了。
另外补充一下 JavaScript 四舍五入的方法：
小数点问题
Math.round(totalAmount*100)/100 (保留 2 位)

function formatFloat(src, pos)
{
  return Math.round(src*Math.pow(10, pos))/Math.pow(10, pos);
}

欢迎光临黑马程序员技术交流社区 (http://bbs.itheima.com/)

黑马程序员IT技术论坛 X3.2