基于 EdgeX + OpenVINO™ 的边缘智能融合网关 YiFUSION

作者：

上海亿琪软件有限公司 CEO 褚建琪

Linux基金会亚太区开源布道者 张晶

1. 应用场景简介

有边缘智能需求的大部分客户已经对 AI 推理和边缘计算有一定的了解，都希望可以将边缘数采和AI 推理结合在一起，实现硬件资源的充分利用，完成更高层次的业务结合。

• 英特尔® 视频 AI 计算盒：已经兴起一段时间，各种业务场景使用的推理模型不计其数，调优和再训练已经成了当前的热门工作内容。
• 边缘数采：对传统的传感器进行数据收集和处理，已经在各领域应用数十年。

在当前客户的业务需求下：

1. 灵活切换推理模型，根据业务需要选择。
2. 与北向系统对接，完成云/企业服务融合。

如何将边缘数采和AI 推理充分结合，已经破在眉睫，文本提出一种解决方案YiFUSION：将 AI 推理集成到成熟的边缘计算框架-EdgeX Foundry中，而从快速实现具备边缘数采和AI推理功能的边缘智能融合网关。

2. 解决方案系统构架：

本系统设计硬件设计采用 英特热® CPU(iGPU) + GPU[可选] ：CPU 必须有，独立GPU 可根据实际需要灵活扩展，如下图所示：

本系统全部采用 Docker 微服务运行，具体功能描述如下：

• 图例中，① 作为 AI 推理服务器，运行 OpenVINO™ Model Server 容器；
• 图例中，② 作为流媒体服务器，负责流媒体的编解码，实时查看视频流，运行亿琪软件产品 YiMEDIA，同样也采用容器运行；
• 图例中，③ 作为边缘计算，运行 EdgeXFoundry 容器，负责整个系统的协调和业务驱动；

3. 硬件环境

准备一台可以作为整个系统运行的硬件设备，笔者使用了开头提到的两种英特尔开发套件家族里的硬件设备分别进行了测试。

1. 研扬科技哪吒（Nezha）开发套件。 作为基础型验证或少量摄像头推理；<100 fps(Frame Per Second) 推理性能；

1. 深圳市铂盛科技有限公司生产的算力魔方，型号：PZ21_2L2S。桌面型小主机，可带挂架；作为商业级应用，<10台摄像头推理；<200 fps(Frame Per Second) 推理性能。

4. 软件实现

采用 Ubuntu 22.04 作为 Docker 宿主主机，并且已经成功完成 Docker 运行环境的安装和测试：

• 基于OpenVINO™ Model Server 提供AI推理服务
• 采用亿琪软件公司自己的流媒体服务器软件：YiMEDIA，来实现视频流的编解码
• 使用EdgeX Foundry管理摄像头和边缘数据

亿琪云接收到的推理结果，如下图所示：

5. YiFUSION功能全景图

基于EdgeX和OpenVINOTM的边缘融合智能网关YiFUSION具备边缘计算、智能分析、数据融合等功能的智能网关，能够在边缘侧实现数据采集、处理、分析、融合和应用，为用户提供更加智能、高性价比的服务：

6. 总结

上海亿琪软件有限公司作为国家级高新技术企业和全球领先的工业物联网软件开发商和解决方案提供商，助力企业和组织实现数字化转型。公司基于EdgeX和OpenVINOTM打造的YiFUSION 边缘融合智能网关产品，为工业客户提供一整套的边缘计算+AI 能力：高性能数据采集、多类型数据融合、AI 算法集成、云端业务对接。在边缘网关的基础上，集成了 IoT 平台的边缘协同能力、本地 Web SCADA 和 HMI 功能、本地数据存储、边缘 AI 视频分析、行业应用集成等。

本文详细技术细节，请参考：https://www.edgexfoundry.org.cn/blog/2024/02/24/yifusion_edgex_with_openvino/

上海亿琪软件有限公司联系方式：

网站：www.yiqisoft.cn

电话：18616669123

Email：jiekechoo@yiqisoft.cn