以 GNU C为例，它遵循 IEEE 754-2008标准中制定的浮点表示规范。在该规范中定义了 5种不同大小的基础二进制浮点格式，包括：16位，32位，64位，128位，256位。其中，32位的格式被用作标准 C类型的 float，64位的格式被用作标准 C类型的 double，128位的格式被用作标准 C类型的 long double。
每种浮点格式都由三部分组成，包括：1个比特的符号位、若干比特的指数位、若干比特的小数位，如下图所示：
以 C语言中 float类型（32位浮点）为例，它的符号位占 1位，指数位占 8位，小数位占 23位，如下图所示：
值得注意的是，
1）指数位编码的指数以 2为底数，若要表示很小的数，例如 1/(2^n) == 2^(-n)，则指数位会出现负数 (-n)，那么还需要专门的符号位来表示，因此指数位是以 127为偏移的，也就是说，一个数在用浮点数来表示时，其指数位的值是实际指数值加上 127。对于 64位浮点数，它的指数位是 11个比特，以 1023为偏移。
2）浮点数的小数部分是将该浮点数表示为 2^n * 1.m后，0.m那部分的数值，也就是说，整数部分始终是 1，且被忽略了（不用保存），这样就能省出一位来表示更高的精度。
举例来说，
1）0.5 = 2^(-1) * 1.0，其指数位为 (-1 + 127)，小数位为 0.0，其二进制是：0 01111110 00000000000000000000000，也就是 0x3F000000。
2）5 = 2^(2) * 1.25，其指数位为 (2 + 127)，小数位为 0.25，其二进制是：0 10000001 01000000000000000000000, 也就是 0x40A00000。
测试代码如下：
#include <stdio.h>
int main(void)
{
float a = 0.5;
unsigned int *b = (unsigned int*)&a;
printf("b = 0x%X\n", *b);
a = 5;
printf("b = 0x%X\n", *b);
}
程序运行结果如下：
$ gcc -o main main.c
$ ./main
b = 0x3F000000
b = 0x40A00000
从 32位浮点的指数宽度来看，理论上，它可以表示很大的数，比如：2^(128) * 1.9999999，这比我们 32位整型能表示的范围(2^(32) - 1)大的多，但受限于浮点小数位的宽度，有些 32位整型数是无法用浮点数来表示的，也就是会出现空洞，原因是浮点数的小数部分精度有限，当小数部分比 1/(2^23)还小时，就无法准确表示该整型数，例如：2^(24) + 1这个数用 32位整型来表示是没有问题的，但用 32位浮点来表示，则会被舍入为：2^24。
测试代码如下：
#include <stdio.h>
int main(void)
{
float a = 1 << 24;
unsigned b = 1 << 24;
printf("a = %f, b = %u\n", a, b);
a += 1;
b += 1;
printf("a = %f, b = %u\n", a, b);
return 0;
}
程序运行结果如下：
$ gcc -o main main.c
$ ./main
a = 16777216.000000, b = 16777216
a = 16777216.000000, b = 16777217
参考资料：
- https://www.gnu.org/software/c-intro-and-ref/manual/html_node/Floating-Representations.html
- https://docs.nvidia.com/cuda/floating-point/index.html
