FP32、FP16 和 INT8

FP32、FP16 和 INT8

当涉及到深度学习和计算任务时，FP32、FP16、INT8 和 INT4 是常用的数据类型，用于表示不同的数值精度和存储需求。

1. FP32

单精度浮点数：提供了较高的精度和动态范围，适用于大多数科学计算和通用计算任务。

位数说明（32 bits）

• 符号位（sign）：1 bit

• 指数位（exponent）：8 bits

• 尾数位（fraction）：24 bits (23 explicitly stored)

计算方式： 参考 维基百科 - Single-precision floating-point format
$$\mathrm{value}=(-1{)}^{\mathrm{sign}}\times 2^{(E-127)}\times \left(1+\sum _{i=1}^{23}{b}_{23-i}{2}^{-i}\right).$$

• $sign=b_{31}=0$
• $E=(b_{30}{b}_{29}\dots b_{23}{)}_2=\sum _{i=0}^7{b}_{23+i}{2}^{+i}=124$
• $1.b_{22}{b}_{21}\dots b_0=1+\sum _{i=1}^{23}{b}_{23-i}{2}^{-i}=1+1\cdot 2^{-2}=1.25$

结果：
$$\mathrm{value}=(+1)\times 2^{-3}\times 1.25=+\mathrm{0.15625.}$$
可借助 IEEE-754 Floating Point Converter 自动计算：

2. FP16

半精度浮点数：相对于FP32提供了较低的精度，但可以减少存储空间和计算开销。主要应用于深度学习和机器学习等计算密集型任务。

位数说明（16 bits）

• 符号位（sign）：1 bit

• 指数位（exponent）：5 bits

• 尾数位（fraction）：11 bits (10 explicitly stored)

计算方式： 参考 维基百科 - Half-precision floating-point format

3. INT8

8 位整数：主要用于对图像、音频等进行量化处理，以减少计算量和存储需求。

使用 8 位（1 字节）内存来存储每个数值，可以表示范围从 -128 到 127 的整数。

位数说明（8 bits）

• 最高位代表符号位（0 - 正，1 - 负）

Maximum value：
$$01111111$$
$0\times 2^7+1\times 2^6+1\times 2^5+1\times 2^4+1\times 2^3+1\times 2^2+1\times 2^1+1\times 2^0=127$

Minimum value：
$$10000000$$
$1\times 2^7+0\times 2^6+0\times 2^5+0\times 2^4+0\times 2^3+0\times 2^2+0\times 2^1+0\times 2^0=-128$