A股上市公司传智教育(股票代码 003032)旗下技术交流社区北京昌平校区

 找回密码
 加入黑马

QQ登录

只需一步,快速开始

© 付剑翊 中级黑马   /  2014-8-21 10:00  /  1122 人查看  /  6 人回复  /   0 人收藏 转载请遵从CC协议 禁止商业使用本文

今天老师讲到浮点数不精确,想知道怎么个不精确法?使用上应该注意什么?

6 个回复

倒序浏览
本帖最后由 怀念黑海岸 于 2014-8-21 13:33 编辑

计算机中所有数据都是用二进制表示的,你任意一个整数能有二进制精确表示出来,因为2的正数次方能组合出任何整数,但是小数呢?2 的-1次方,1/2,-2次方 1/4,-3次方1/8,,,,就像计算圆周率一样,除了那些及其特殊的小数如0.5,0.25,0.125,0.75这些能直接被2的负多少次方直接表示或者组合出来外,其他的都只能无限接近而不是完全等于。
回复 使用道具 举报
:( 毕老师的视频我怎么没有看到啊!
回复 使用道具 举报
怀念黑海岸 发表于 2014-8-21 13:31
计算机中所有数据都是用二进制表示的,你任意一个整数能有二进制精确表示出来,因为2的正数次方能组合出任 ...

原来就是数学意义上的近似啊,受教了
回复 使用道具 举报
受教了,谢谢分享
回复 使用道具 举报
付剑翊 来自手机 中级黑马 2014-8-25 23:38:57
地板
思维 发表于 2014-8-21 14:45
毕老师的视频我怎么没有看到啊!

在传智这边上课老师讲的
回复 使用道具 举报
表示默默的路过~~~~~
回复 使用道具 举报
您需要登录后才可以回帖 登录 | 加入黑马