A股上市公司传智教育(股票代码 003032)旗下技术交流社区北京昌平校区

 找回密码
 加入黑马

QQ登录

只需一步,快速开始

© 刘永滨 中级黑马   /  2014-5-14 16:25  /  2067 人查看  /  8 人回复  /   0 人收藏 转载请遵从CC协议 禁止商业使用本文

double A,B,C,D;
A: 0.500000 B: 0.500000 C: 0.500000 D:1.500000
用D-A-B-C=0.000001这样的精度问题怎么解决?求解

8 个回复

倒序浏览
虽然提问的问题结束了,但是我还是解释一下吧。
java中double 等数据类型精度是个比较恶搞的。在Effective Java中提到,float和double只能用作科学计算或者工程计算,在普通的商业计算,即精算精度要求很高的情况下和计算是否相等的情况下,咱们应该使用的是BigDecimal.使用这个来包装Double对象,这样计算出来的是准确的。使用BigDecimal来就素那加载乘除,算完之后一般使用String输出,另外,如果只是为了单纯的保留几位小数的问题,可以考虑使用DecimalFormat。
希望能够帮到你

评分

参与人数 1技术分 +1 收起 理由
张然龙 + 1 很给力!

查看全部评分

回复 使用道具 举报
晚上下班时,再将详细的例子写给你
回复 使用道具 举报
pandapan 发表于 2014-5-15 13:17
晚上下班时,再将详细的例子写给你

effective  java有详细介绍浮点数吗?
回复 使用道具 举报

D:\\upLoad.png

upLoad.png (262.27 KB, 下载次数: 39)

effective java中讲解的

effective java中讲解的
回复 使用道具 举报
136616244 发表于 2014-5-15 15:15
effective  java有详细介绍浮点数吗?

那个上面讲解了一个示例,看看就能明白的,希望能够帮到你,同学
回复 使用道具 举报
pandapan 发表于 2014-5-15 22:31
那个上面讲解了一个示例,看看就能明白的,希望能够帮到你,同学

我想了解下十进制浮点数是如何转化为为二进制表示的,以前好像学过又忘了,小数点后面的是2^-1,2^-2,2^3.......
我想看看如何手动转化的,之前也百度了一下没看懂。
回复 使用道具 举报
要不还是给你个网页地址吧,感觉人家写的挺好的,图文并茂,如果感觉还是不明白的话,咱们再沟通。
http://www.360doc.com/content/11/0308/14/5327079_99222581.shtml
回复 使用道具 举报
墨香 中级黑马 2014-5-17 23:08:31
9#
使用Java,double 进行运算时,经常出现精度丢失的问题,总是在一个正确的结果左右偏0.0000**1。 特别在实际项目中,通过一个公式校验该值是否大于0,如果大于0我们会做一件事情,小于0我们又处理其他事情。 这样的情况通过double计算出来的结果去和0比较大小,尤其是有小数点的时候,经常会因为精度丢失而导致程序处理流程出错。
     所以一般对double类型进行运算时,做好对结果进行处理,然后拿这个值去做其他事情。

     目前总结如下:

     /**  
     * 对double数据进行取精度.  
     * @param value  double数据.  
     * @param scale  精度位数(保留的小数位数).  
     * @param roundingMode  精度取值方式.  
     * @return 精度计算后的数据.  
     */  
    public static double round(double value, int scale,
             int roundingMode) {   
        BigDecimal bd = new BigDecimal(value);   
        bd = bd.setScale(scale, roundingMode);   
        double d = bd.doubleValue();   
        bd = null;   
        return d;   
    }   


     /**
     * double 相加
     * @param d1
     * @param d2
     * @return
     */
    public double sum(double d1,double d2){
        BigDecimal bd1 = new BigDecimal(Double.toString(d1));
        BigDecimal bd2 = new BigDecimal(Double.toString(d2));
        return bd1.add(bd2).doubleValue();
    }


    /**
     * double 相减
     * @param d1
     * @param d2
     * @return
     */
    public double sub(double d1,double d2){
        BigDecimal bd1 = new BigDecimal(Double.toString(d1));
        BigDecimal bd2 = new BigDecimal(Double.toString(d2));
        return bd1.subtract(bd2).doubleValue();
    }

    /**
     * double 乘法
     * @param d1
     * @param d2
     * @return
     */
    public double mul(double d1,double d2){
        BigDecimal bd1 = new BigDecimal(Double.toString(d1));
        BigDecimal bd2 = new BigDecimal(Double.toString(d2));
        return bd1.multiply(bd2).doubleValue();
    }


    /**
     * double 除法
     * @param d1
     * @param d2
     * @param scale 四舍五入 小数点位数
     * @return
     */
    public double div(double d1,double d2,int scale){
        //  当然在此之前,你要判断分母是否为0,   
        //  为0你可以根据实际需求做相应的处理

        BigDecimal bd1 = new BigDecimal(Double.toString(d1));
        BigDecimal bd2 = new BigDecimal(Double.toString(d2));
        return bd1.divide
               (bd2,scale,BigDecimal.ROUND_HALF_UP).doubleValue();
    }


这样,计算double类型的数据计算问题就可以处理了。
另外补充一下 JavaScript 四舍五入的方法:
小数点问题
Math.round(totalAmount*100)/100 (保留 2 位)

function formatFloat(src, pos)
{
  return Math.round(src*Math.pow(10, pos))/Math.pow(10, pos);
}

评分

参与人数 1技术分 +1 收起 理由
枫儿 + 1 赞一个!

查看全部评分

回复 使用道具 举报
您需要登录后才可以回帖 登录 | 加入黑马