当前位置:   article > 正文

模型部署简述_在线模型根据使用的技 术、适配的框架又分为专用模型部署、通用模型部署 等

在线模型根据使用的技 术、适配的框架又分为专用模型部署、通用模型部署 等
一、模型使用流程

在这里插入图片描述

二、模型部署平台
  • 在线服务器部署,精度优先
    在这里插入图片描述
  • 离线嵌入式端部署,兼顾精度与速度,资源消耗
    在这里插入图片描述
三、模型部署的方式

在这里插入图片描述

  • 训练框架部署
    在这里插入图片描述

  • 训练框架部署引擎
    在这里插入图片描述

  • 手动模型重构
    在这里插入图片描述

  • 专用推理引擎(我们常用的方式)
    在这里插入图片描述

  • 主流的移动端推理框架对比
    在这里插入图片描述

文章来源:https://www.bilibili.com/video/BV1TY4y1q7XE?spm_id_from=333.337.search-card.all.click

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/酷酷是懒虫/article/detail/887227
推荐阅读
相关标签
  

闽ICP备14008679号