赞
踩
当我们把深度学习模型训练好之后,想要基于深度学习模型来开发实际应用的时候,主要有三种不同的应用场景移动端
、桌面端
和服务器端
。
Android
和IOS
调用,由于移动端算力有限通常还需要考虑基于移动端CPU或GPU框架的优化问题来提速。如果模型要求的算力比较大,就只能考虑以API的形式来调用了,这时候模型是部署在服务器上的。Windows
和Mac OS
以及Linux
,这时候我们还是需要将模型封装成SDK然后提供接口来进行调用。Windows将模型封装成dll
或lib
库,Linux封装成so
或a
库,Mac OS封装为.a
或.tbd
库。flask或tornado
来封装一个API接口来给调用。但是这种方式有一个致命的缺点就是,能支持的并发量很低,可扩展性也不高,如果被工具服务器很容易奔溃。对于并发量要求高的应用建议使用基于model server的服务框架
。如果你想开发一个跨平台的深度学习应用,有两种解决思路:第一种
将模型部署到服务器上然后对外提供API接口给不同平台的应用调用即可。第二种
是基于设备的本地部署,利用
Copyright © 2003-2013 www.wpsshop.cn 版权所有,并保留所有权利。