初识TensorFlow Lite_tensorflow lite是国产软件吗?

1.摘要

    近年来，随着移动设备和应用的普及，及其软硬件的提升。另一方面，机器学习在近些年来也取得了不小成果。机器学习需要大量数据，而移动设备存在也产生大量数据，移动设备也需要机器学习的成果。由此出现了机器学习与移动设备的碰撞，在移动设备上使用、应用机器学习的成果是很有必要的。

2.应用背景

    视觉在人与人交互以及人与自然界的交互过程中起到非常重要的作用,让终端设备具有智能的视觉识别和交互能力是人工智能和计算机技术的核心挑战和远大目标之一。

    在早些年，全球物联网的设备数，就已经超过人口数。而全球的物联网市场也在未来也将大规模增长。在LoT上运行的操作系统和应用，都要适用于物联网的特性。

    移动端相比于PC端,在硬件方面（摄像头、传感器等）接触到更多的信息，不管是移动端设备技术应用需求，还是更便于机器学习的信息获取，两者的拥抱更为重要。

    在不久的未来，硬件将会更加高效，因此从软件层面上将图像识别、机器学习的成果推向移动端是多么重要。

3.国内外研究现状

    1.MNN是一个轻量级的深度神经网络推理引擎，在端侧加载深度神经网络模型进行推理预测。目前，MNN已经在阿里巴巴的手机淘宝、手机天猫、优酷等20多个App中使用，覆盖直播、短视频、搜索推荐、商品图像搜索、互动营销、权益发放、安全风控等场景。此外，IoT等场景下也有若干应用。

    2.TensorFlow是谷歌开发的第二代人工智能学习系统，在著名的开源网站上排名第一。其基本单元采用数据流图，用于数值计算的开源软件库。TensorFlow可以看成是一个嵌入Python的编程语言。你写的TensorFlow代码会被Python编译成一张图，然后由TensorFlow执行引擎运行TensorFlow是世界上最受欢迎的开源机器学习框  架，它具有快速、灵活并适合产品级大规模应用等特点，让每个开发者和研究者都能方便地使用人工智能来解决多样化的挑战。

   3.PyTorch，最初由加州大学开发的。用C++开发的，也支持Python接口。对移动和嵌入式设备的支持也比较好。所有，很多在移动端进行的机器学习开发也会选择它。

4.移动端上主要使用的两种深度学习方式

      第一种模式是在线方式：移动端将数据进行预先处理，然后把数据传送到服务器端，由服务器端进行深度学习模型，将结果传送后移动端。这样性能由服务器端决定，可以处理性能要求高的模型，但是必须联网。

另外一种是离线方式：在本地运行已经训练好的模型即可。(TensorFlow Lite的方式) 

 

         图1-1 移动端深度学习的两种模式对比 

在线和离线模式的优缺点

5.TensorFlow Lite介绍

TensorFlow Lite 旨在让您轻松地在网络“边缘”的设备上执行机器学习，而无需在设备与服务器之间来回发送数据。对开发者来说，在设备端执行机器学习有助于：

• 缩短延迟：数据无需往返服务器
• 保护隐私：任何数据都不会离开设备
• 减少连接：不需要互联网连接
• 降低功耗：网络连接非常耗电

5.1开发工作流程

使用 TensorFlow Lite 的工作流包括如下步骤：

1. 选择模型

   您可以使用自己的 TensorFlow 模型、在线查找模型，或者从我们的预训练模型中选择一个模型直接使用或重新训练。

2. 转换模型

   如果您使用的是自定义模型，请使用 TensorFlow Lite 转换器将模型转换为 TensorFlow Lite 格式，只需几行 Python 代码就能搞定。

3. 部署到您的设备

   请使用 TensorFlow Lite 解释器（提供多种语言的 API）在设备端运行您的模型。

4. 优化您的模型

   请使用我们的模型优化工具包缩减模型的大小并提高其效率，同时最大限度地降低对准确率的影响。

如需详细了解如何在项目中使用 TensorFlow Lite，请参阅使用入门。

5.2TensorFlow Lite 示例应用

5.3简单使用效果

图片标签上展示出来判别度和识别的名称