赞
踩
第二部分伪量化训练在这里:
https://blog.csdn.net/angela_12/article/details/85000072#commentsedit
(参照社区问题中Zongjun大神的回答)
“如果是在android 上,Tensorflow Lite (tflite) 可以利用hardware accelerator,应该是更快的。量化只是一个float32到uint8的过程,本质上是weights\bias大小的变化(是原来的25%),有的microcontroller太小,不量化根本就放不进去,并且mircocontroller大部分是8bit计算,float32非常昂贵,所以需要量化。”
本博客时间有延迟,现在谷歌删掉了以前在tensorflow/tools/quantization文件夹里的的quantize_graph.py工具,所以以前的工具不能用了(也可以去网上找到那部分下载看看)
之前用量化工具做量化的时候是2018年7月19号,时间有点久远,但因为之前做过了现在想整理一下所以还是写出来记录一下~
我目前没有环境,所以就没法验证,先写着,等过段时间试试有没有问题,不过应该没啥问题,哈哈。
1.源码安装TensorFlow(简称TF)及相关库:
git clone https://github.com/tensorflow/tensorflow
参考源码安装博客
注: TF最好安装在虚拟环境里,这个可以找下如何在Linux里安装虚拟环境virtualenv,然后使用的时候先进入虚拟环境中,TF激活virtualenv:
source bin/activate
进入会出现虚拟环境名:(tensorflow)$
退出环境:
(tensorflow)$ deactivate
2.编译:
1)进入tensorflow根目录:
cd tensorflow
2)下载安装bazel编译工具:
bazel官网安装方法,jdk不低于1.8,也是源码安装
可参考:TensorFlow Lite模型生成以及bazel的安装使用
2019.3.27更新: bazel环境重新搭了一遍,感觉不用那么麻烦,这次没有源码安装也可以使用tensorflow的指令,方法就是进入官网,按照官网推荐的二进制安装方法操作,一共四步,按顺序操作即可:
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。