AI大模型时代的边云协同之混合AI

作者：英特尔网络与边缘计算智慧城市事业部首席工程师 邵文简

混合AI视频

今天，AI已成为最为热门的技术话题。AI处理的数据来自于我们生活的城市中的方方面面，例如：居住的社区，工作的园区，购物的商场，出行的车站，机场，港口等。

通过无所不在的网络接入，在On-prem Edge，Network Edge到Cloud的端，边，云架构中无缝地流动。同时，云化的计算架构使得计算可以自由地在端，边缘和云端部署和调度，并且对客户提供了一致的使用体验。

正是基于先进的网络架构和计算架构，AI在每一个数据节点都发挥着越来越重要的作用。并根据行业客户对业务时延、成本、隐私及安全等方面的要求，在边缘和云端进行优化部署。

AI作为边缘端最广泛的工作负载，目前的一个发展趋势是Hybrid AI(混合AI)。 也就是云和边缘高效协同实现AI，云端完成模型训练及延时要求较低的推理，在前端边缘设备上实现客户推理。

在边缘人工智能领域，英特尔提供全系的硬件方案：在芯片上有凌动®，酷睿TM到至强®的CPU，集成显卡和 ARC™独立显卡；在方案上有边缘人工智能盒子Edge AI Box,边缘人工智能服务器Edge AI Server等。 

在软件上有 Hybrid AI 运行时 OpenVINOTM，同时英特尔还与OpenYurt、EdgeX Foundry等头部开源项目合作，构建云边协同基础方案。

 SI/ISV是英特尔的边缘人工智能生态中十分重要的环节，我们有幸邀请到深圳行云创新公司。基于英特尔边缘软硬件系统，行云创新已经构建了端到端行业解决方案。敬请期待！