A股上市公司传智教育(股票代码 003032)旗下技术交流社区北京昌平校区

 找回密码
 加入黑马

QQ登录

只需一步,快速开始

因为 通常程序输入的数是10进制,进入机器后要化成2进制,计算完又转十进制输出
10进制到2进制,2进制到10进制 转换,有的数化不净,有的数化得净

如同10进制分数化10进制小数,有的化得净(例如 4分之1,变0.25),有的化不净(例如 3分之1,变0.33333....)。

但是10进制到2进制,2进制到10进制 转换,化得净的效数字7位,化不净的效数字6位,因为最后一位有舍入误差。
例如:
float x,y;
x=0.51; // 化不净
y=0.5; // 化得净
printf("x=%.8f y=%.8",x,y); // 输出 0.50999999 0.50000000

3 个回复

倒序浏览
好流弊的样子
回复 使用道具 举报
好牛逼好牛逼   赶紧过来关注了
回复 使用道具 举报
墨琰 发表于 2015-8-8 22:04
好牛逼好牛逼   赶紧过来关注了

你说的好像很有道理
回复 使用道具 举报
您需要登录后才可以回帖 登录 | 加入黑马