黑马程序员技术交流社区

标题: 浮点型数据为什么会出现 有效数字 这类问题 [打印本页]

---

作者: cheenbee    时间: 2015-8-7 23:01
标题: 浮点型数据为什么会出现 有效数字 这类问题
因为 通常程序输入的数是10进制，进入机器后要化成2进制，计算完又转十进制输出
10进制到2进制，2进制到10进制 转换，有的数化不净，有的数化得净
如同10进制分数化10进制小数，有的化得净（例如 4分之1，变0.25)，有的化不净(例如 3分之1，变0.33333....)。

但是10进制到2进制，2进制到10进制 转换，化得净的效数字7位，化不净的效数字6位，因为最后一位有舍入误差。
例如：
float x,y;
x=0.51; // 化不净
y=0.5; // 化得净
printf("x=%.8f y=%.8",x,y); // 输出 0.50999999 0.50000000

---

作者: cheenbee    时间: 2015-8-7 23:03
好流弊的样子

---

作者: 墨琰    时间: 2015-8-8 22:04
好牛逼好牛逼   赶紧过来关注了

---

作者: cheenbee    时间: 2015-8-8 22:16

墨琰 发表于 2015-8-8 22:04
好牛逼好牛逼   赶紧过来关注了

你说的好像很有道理

---

欢迎光临 黑马程序员技术交流社区 (http://bbs.itheima.com/)

黑马程序员IT技术论坛 X3.2