A股上市公司传智教育(股票代码 003032)旗下技术交流社区北京昌平校区

 找回密码
 加入黑马

QQ登录

只需一步,快速开始

为什么出现这种情况呢?由于浮点数运算的时候,在计算机内部是二进制进行计算的,计算机中小数的二进制是一个无限由0和1组成的二进制,运算完后变成十进制会产生尾数,因此运算会接近0.3,在运用浮点数做运算比较的时候,就需要注意这一点。另外浮点数和小数都精度都存在限制,但常规一般忽略:
-10**-307 到 10**308,精度数量级为10**-16.

0 个回复

您需要登录后才可以回帖 登录 | 加入黑马