量化教程2——模型量化算法_模型量化线性映射

作者：Monodyee | 2024-04-09 13:54:20

踩

模型量化线性映射

在这里插入图片描述
一、仿射映射量化

模型的量化映射方式，如上图所示，可分为线性映射和非线性映射，对于线性映射又可分为对称量化和非对称量化；非线性量化实际应用很少，此处不做介绍。
二、线性映射
对称量化：
对称量化即使用一个映射公式将输入数据映射到 [-127,127] 的范围内，映射公式需要保证原始输入数据中的零点通过映射公式后，仍能对应 [-127,127] 区间的零点。
在这里插入图片描述

非对称量化：
定义：使用一个映射公式，将输入数据映射到 [-128,127] 的范围内，但是原始输入数据中的零点通过映射公式后对应的位置并不是原点。

声明：本文内容由网友自发贡献，不代表【wpsshop博客】立场，版权归原作者所有，本站不承担相应法律责任。如您发现有侵权的内容，请联系我们。转载请注明出处：https://www.wpsshop.cn/w/Monodyee/article/detail/393163