AIGC的算力与云边协同及应用创新_云边边算力

1）AI的新时代，生成式AI技术重新塑造AI技术的开发及应用

AI的新时代：更关注如何利用生成式AI技术在涉及数字内容的诸多领域实现改变及突破，生成式AI实际上扩大了“内容”的含义，凡是可以数字化的内容形式均为生成对象，而非传统意义下媒体环境的内容。

AIGC产业：新一代AI技术和理念，以“生成式AI”为代表技术的开发及应用产业，即如何利用资源发挥新的AI技术的应用，通过商业价值推动AI第 三次浪潮的发展。

2）纵观AI发展，算法的发展及迭代极大地拉动了算力的需求

3）量变”的算法、数据可以带来“质变”

4）算力承接算法及数据，成为AIGC产业发展基石

5）AIGC的突破依赖于算力的释放

AI技术在实际应用中包括两个环节：训练（Training）和推理（Inference），AIGC的算力需要考虑训练及推理两个方面。

• 训练是指通过数据开发出AI模型，使其能够满足相应的需求，一般为AI技术的研发。因此参数量的升级对算力的需求影响大。

• 推理是指利用训练好的模型进行计算，利用输入的数据获得正确结论的过程，一般为AI技术的应用。推理部署的算力主要在于每个应用场景日数据的吞吐量。

6）AIGC算力具备软硬件的复杂性，并且以多样性为产品/服务/方案为应用赋能

7）AIGC产业的算力是工程化结果，是从芯片到资源服务的多层次构造

• 未来大模型的产业化发展是一套复杂的系统工程，构建高效稳定的算力平台是核心要义，成熟的算法、数据产业链，配套工具链及丰富的生态链是关键因素，亟需以系统的方式寻找最优解。

• 算力设备软硬件兼容性和性能调教上的Know-How，可以保证AI算力的适配性和稳定性，并非单一因素的参数能简单决定。

8）MaaS是AI新时代云服务模式的破与立，构建新的“算力+算法”服务模式

MaaS（Model as a Service）模型即服务，是指将大模型作为一项服务提供给用户使用的新业态，MaaS中模型训练（主要指微调）及推理的技术路线成 立必须依赖云计算的算力支撑，同时算力及其他资源通过MaaS模式实现AI层面上更好的价值释放。

9）MaaS提供了云服务的新模式

AIGC行业快速发展，MaaS服务契合当下AIGC产业发展，提供云服 务商业应用价值，带动整体云计算增长。

10）云边协同提升AI落地的可能性

• 边缘计算可负责范围内的数据计算和存储工作。同时负责将连续数据汇总至计算层，最终由云计算层完成分析挖掘、数据共享工作，下发结果或模型至边缘和终端层，形成云-边-端协同。

• 边缘计算的核心价值：边缘侧完成数据的计算，并且实现云、端间的数据及计算结果的协同。边缘云及边缘芯片的发展将推动AIGC的更快落地。

11）加快智算中心建设满足智能算力的增长需求

13）“算法芯片化”结合“云边协同”，满足新AI时代的计算需求

➢ “算法芯片化”：云天励飞凭借对行业的战略前瞻和持续多年的深耕布局，让算法和芯片两大技术相互配合，基于对场景的深刻理解以及对算 法关键计算任务在应用场景中的量化分析，将芯片设计者的理念、思想与算法相融合的AI芯片设计流程，为解决方案和应用场景更高效地赋能。

➢ 基于该理念，DeepEdge10边缘神经网络推理芯片在技术架构上采用架构统一的神经网络处理器芯片平台和创新的指令集架构，满足大模型基 于Transformer结构所带来的新的神经网络计算范式以及高带宽传输、分布式并行计算、低精度混合计算需求。

14）存算一体随存储器介质，高效适配Transformer结构算法

存算一体有Flash、SRAM、DRAM等传统存储介质，同时ReRAM、MRAM等新型存储介质也在快速发展，ReRAM存内计算技术未来具有非常大的应用潜力， 尤其是存算一体技术应用于大算力的领域。

15）AIGC给予了企业流程新的数字化管理思路

• 既定业务流程的建模、标准化、自动化、执行、控制、度量和优化（例如BPM）是基于现有数据交互协同的思路管理员工。

• AIGC通过解决部分交互及协同标准，可以更好地实现流程上的协同管理，但仍需企业对场景的不断探索后才能明确需求。

16）AIGC的C端垂类应用体验将进入快速探索阶段

• 考虑到当下AIGC的可信性及成本的局限性，AIGC的应用在复杂度高（智能化水平），及更开放的场景实现，产品/服务体验提升的需求推动AI落地侧应 用以及模型的迭代。

• 根据IDC数据，2022年中国数据中心用于推理的服务器的市场份额占比已经过半，达到58.5%，预计到2026年，用于推理的工作负载将达到62.2%。未 来随着AIGC产业发展，训练侧及推理侧均具有发展潜力。