当前位置:   article > 正文

深度学习模型的量化方法(论文学习 & tensorflow lite量化方法)_深度学习中模型量化论文

深度学习中模型量化论文
  1. Quantization

    1. 方法介绍

    2. 效果

      论文(参考文献a)中以imageNet数据(1.2M training images,1K categories,50k validation images),使用多个模型,从各个角度做了实验,对比quantization的效果,结果如下:
      1. forward效果
        AlexNet模型,

              不Quantization Q tilt (ReLU) sign tilt (hard tanh) Q(HWGQ) + ReLu backward sign + ReLU backward
        Alex Net Full Weight top 1 55.7 55.7 46.7 49.5  
        top 5 79.3 79.3 71<
声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/小小林熬夜学编程/article/detail/393044
推荐阅读
相关标签
  

闽ICP备14008679号