深度学习8bit量化数据转16bit量化数据方法（一）

作者：Cpp五条 | 2024-05-15 08:26:50

踩

8bit量化

应用场景

在对网络转变为8bit量化网络后，有的算子譬如sigmoid需要按照浮点数进行计算，所以在sigmoid前端需要将8bit量化数据转变为16bit数据。本文阐述了如何将8bit量化的数据转变为Q(16,7)量化数据的方法。

X_quant ： 8bit量化数据
Z_quant ：8bit量化时对应的Zero值
S_float : 8bit量化时的数据缩放系数
x_float ：对应的浮点数

8bit网络的量化精度和能够量化的数据范围与n的值有关，详细将在下一节进行分析。

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/Cpp五条/article/detail/571992