iOS基础-学习笔记25
16-%f输出精度问题
1. 关于实型的精度问题
对于单精度数，使用%f格式输出时，仅前7位是有效数字，小数6位
对已双精度数，使用%lf格式输出时，前16位是有效数字，小数6位
有效数字的位数与制定输出的小数位数（%.7f）是两码事
“有效数位为7“：是指此数据从第一个非零数字开始，误差不操过本数位搬个单位的、精确可信的数位是7位（包括小数点前的非零数位）。
%.7f：是指输出此数据的时候，小数点之后要显示7位数字（但是如果小数点前还有一些非零数位，那么小数点后的这7位并不能保证都是精确可信的有效数位）
|
|
收藏
淘帖
踩
