前些日子一直在思考一个问题:
int a = 58;double b = 0.35;
double c = a*b;
为什么等于20.29999999999997
而不是等于20.3
我在计算机思索一根烟,是啊为什么呢?学习java两年这个问题突然不知怎么回答?经过再三考虑将我的想法发表出来,请大家一起讨论!
1. 首先要明白计算机只识别0和1。
2. 因为在java里面浮点数的表示是根据IEEE754标准来表示的,一般数符位(s)1位,阶码(E)根据浮点数的类型不同占的位数不同,尾数(M)也是根据类型不同占的位数不一样,所以一个计算机能够表示的浮点数的总位数长度是有限的一般32位、64位、80位。
3. 要明白小数在转换为二进制的时候有些小数是无法完全转换的只能取近似值。
4. 如0.35转为二进制为0.01100..........这个二进制再转10进制是无法表示为0.35的只能是无限接近0.35.
这就是所谓的精度丢失,是因为小数在转二进制时有些小数是转不清的,丢去了一部分。
《云六的兄弟姐妹们,顶起来啊,,不能清淡啊》
|