float精度丢失问题

欢迎大家来到IT世界,在知识的湖畔探索吧!

本来印象中float只是小数精度不够，最近项目中遇到一些问题，发现float能表示的整数范围也很小。于是重新学习了下float的存储问题，记录如下。

项目中遇到的问题：

有一个float类型的变量，需要不断地+1。在加到一个八位数的数字后，该变量+1后与执行+1前输出的结果相同。

即整数部分出现了精度不够。

代码说明：

#include<iostream>

#include<iomanip>

using namespace std;

int main() {

float float_i = ;

float_i++;

cout << fixed << setprecision(0) << float_i << endl;

return 0;

}

输出结果仍是

float存储模型

以32位的float为例，它的存储模型为：

符号位（1位） 指数位（8位） 尾数位（23位）

也可把指数位理解成：小数点方向位（1位）+指数位（7位）

内存中数据与实际表达值的转换

一个浮点数转化为内存中的存储方法如下：

1、决定符号位。若数为正，符号位取0，反之取1。

2、整数部分和小数部分分别转化为二进制。

3、转化后的二进制拼接在一起。如整数位二进制为100，小数位为01，则拼接为1001。

4、将拼接后的数字转化为科学计数法，即 1.0001 ∗ 1 0 2 1.0001*10^21.0001∗102

5、指数位为2。存储时存实际值+127的值，即指数位为。

6、尾数位表示科学计数法中的底数。由于科学计数法第一位必为1，故统一省略，尾数位只需表示0001。

7、尾数位后面补0。

8、得到结果0 00000000000

对指数位的另一种理解

另一种理解是小数点方向位（1位）+指数位（7位）

如上例中拼接后的100.01，变成 1.0001 ∗ 1 0 2 1.0001*10^21.0001∗10

2

，小数点左移，对应小数方向位为1。

再如0.001，变成 1 ∗ 1 0 − 3 1*10^{-3}1∗10−3

，小数点右移，对应小数方向位为0。

在此模型下，指数位为实际数字-1，如上例中的指数位为2，在该模型下对应的指数位为0000001。

其他计算方法不变，故上例中的数字在这种理解下为0 1 0000001 00000000000。最后表示出来的结果是一样的，只是理解不同。

float能表示的不丢失精度的最大整数范围

由上述模型可知，float只有24位是表示具体数值的（23位尾数位+1位默认为1而省略掉的科学计数法的头部）。故当float的范围超出 2 24 2^{24}2

24

时，float类型的++操作将因为精度不够，而在整数位出现丢失精度的情况。

代码验证如下：

#include<iostream>

#include<iomanip>

using namespace std;

int main() {

float float_i = 1;

int int_j = 1;

while (float_i == int_j) {

float_i++;

int_j++;

}

cout << fixed << setprecision(0) << float_i << endl;

cout << int_j << endl;

cout << float_i + 10 << endl;

for (int i = 0; i < 10; ++i) { ++float_i; }

cout << int_j – float_i << endl;

return 0;

}

输出结果为：

2

分析：

就是2 24 2^{24}2

24

的值。当float达到这个值之后，对它进行++操作，内存中记录不下这个操作，故它会一直停留在这个值。

第三、四行的输出表示，一次性加10，改变了内存中的数据，显示出来的数会变化。但分10次++，因为每次++内存中都无法记录下该操作，故10次++后内存中的值没变，还是原来的那个味道。