黑马程序员技术交流社区

标题: 关于精度问题，求高人解答~ [打印本页]

作者: 罗尖栋 时间: 2015-4-26 16:32
标题: 关于精度问题，求高人解答~
<IMG src="file:///C:\Users\Administrator\AppData\Roaming\feiq\RichOle\3498235059.bmp">

<IMG src="file:///C:\Users\Administrator\AppData\Roaming\feiq\RichOle\3146544624.bmp">

这是为啥？

作者: 罗尖栋 时间: 2015-4-26 17:01
传错了！

12.png (6.02 KB, 下载次数: 13)

图1

13.png (1.49 KB, 下载次数: 10)

图2

作者: lingdu 时间: 2015-4-26 19:22
大多数情况下，浮点数不能精确表示一个数的
比如上面的1.24f=1+0*0.5+0*0.25+1*0.125+1*0.0625+.....,
这个数字是不能被用浮点数精确表示的，在存储的时候只能舍去末尾权值小的项，得到一个近似于这个数的浮点数，所以才输出如上结果，另外，我发的一些扩展的知识你可以参考下：http://bbs.itheima.com/thread-191591-1-1.html

作者: 罗尖栋 时间: 2015-4-27 21:39

lingdu 发表于 2015-4-26 19:22
大多数情况下，浮点数不能精确表示一个数的
比如上面的1.24f=1+0*0.5+0*0.25+1*0.125+1*0.0625+.....,
这个 ...

soga，thankyou very much

欢迎光临黑马程序员技术交流社区 (http://bbs.itheima.com/)

黑马程序员IT技术论坛 X3.2