A股上市公司传智教育(股票代码 003032)旗下技术交流社区北京昌平校区

 找回密码
 加入黑马

QQ登录

只需一步,快速开始

本帖最后由 汪振 于 2013-3-7 13:57 编辑

如图,从textbox 取得输入的值,通过“double.Trypase”转换为double类型

被赋给的变量监视中的值为111.3 ,用它进行计算时用的却是"111.29999999999991"
请问这是什么原因,代码中未有其他的转换
是不是和double的小数位数有关,MSDN中double的精度为15-16位

2.jpg (22.95 KB, 下载次数: 21)

2.jpg

1.jpg (12.23 KB, 下载次数: 17)

1.jpg

3 个回复

倒序浏览
求解,虽然可以通过定义误差范围进行解决,不过不知道其中缘由
回复 使用道具 举报
这个跟转换没有关系
http://blog.csdn.net/waitfor_/article/details/8035773
这里有比较详细的讲解,希望对你有帮组。
回复 使用道具 举报
徐荣权 发表于 2013-2-21 09:05
这个跟转换没有关系
http://blog.csdn.net/waitfor_/article/details/8035773
这里有比较详细的讲解,希望 ...

:handshake 很有帮助,谢谢啊
回复 使用道具 举报
您需要登录后才可以回帖 登录 | 加入黑马