黑马程序员技术交流社区

标题: 浮点数 [打印本页]

作者: 付剑翊    时间: 2014-8-21 10:00
标题: 浮点数
今天老师讲到浮点数不精确,想知道怎么个不精确法?使用上应该注意什么?
作者: 怀念黑海岸    时间: 2014-8-21 13:31
本帖最后由 怀念黑海岸 于 2014-8-21 13:33 编辑

计算机中所有数据都是用二进制表示的,你任意一个整数能有二进制精确表示出来,因为2的正数次方能组合出任何整数,但是小数呢?2 的-1次方,1/2,-2次方 1/4,-3次方1/8,,,,就像计算圆周率一样,除了那些及其特殊的小数如0.5,0.25,0.125,0.75这些能直接被2的负多少次方直接表示或者组合出来外,其他的都只能无限接近而不是完全等于。
作者: 思维    时间: 2014-8-21 14:45
:( 毕老师的视频我怎么没有看到啊!
作者: 付剑翊    时间: 2014-8-22 00:14
怀念黑海岸 发表于 2014-8-21 13:31
计算机中所有数据都是用二进制表示的,你任意一个整数能有二进制精确表示出来,因为2的正数次方能组合出任 ...

原来就是数学意义上的近似啊,受教了
作者: 牛兴亮    时间: 2014-8-22 07:28
受教了,谢谢分享
作者: 付剑翊    时间: 2014-8-25 23:38
思维 发表于 2014-8-21 14:45
毕老师的视频我怎么没有看到啊!

在传智这边上课老师讲的
作者: 回头浪子心    时间: 2014-8-26 09:00
表示默默的路过~~~~~




欢迎光临 黑马程序员技术交流社区 (http://bbs.itheima.com/) 黑马程序员IT技术论坛 X3.2