昇思25天学习打卡营第一天|基本介绍

 一、昇思MindSpore介绍

昇思MS是一个全场景深度学习框架，旨在实现易开发、高效执行、全场景统一部署。

    易开发：API友好、调试难度低；

    高效执行：计算效率、数据预处理效率和分布式训练效率

    全场景：框架同时支持云、边缘以及端侧场景

简单介绍一下：

    ModelZoo模型库：提供可用的深度学习算法网络

    MindSpore Extend扩展库：支持扩展新场景（如GNN、深度概率编程、强化学习）

    MindSpore Science科学计算：融合架构打造的科学计算行业套件，包含数据集、基础模型、预置高精度模型和前后处理工具

    第三方前端：支持第三方多语言前端表达

    MindSpore Data数据处理层：提供高效的数据处理、常用数据集加载、编程接口、支持用户灵活定义处理注册和pipeline并行优化

    MindCompiler AI 编译器：图层的核心编译器，基于端云统一的MindIR实现包括硬件无关的优化（类型推导、自动微分、表达式化简）、硬件相关优化（自动并行、内存优化、图算融合、流水线执行）、部署推理相关的优化（量化、剪枝）

    MindRT全场景运行时：运行时系统，包含云侧主机侧运行时系统、端侧及更小lot的轻量化运行时系统

    MindSpore Insight可视化调试调优工具：能够可视化查看训练过程、优化模型性能、调试精度问题、解释推理结果

    MindSpore Armour安全增强库：安全与隐私保护相关增强功能

二、昇思MindSpore 执行流程

 熟悉了昇思MS的总体架构，我们将进一步了解各个模块之间的整体配合关系

简单分析一下执行流程：

昇思MS作为全场景AI框架，支持云、边、有端场景的不同系列硬件

      MindSpore训练和验证：主体框架，主要提供神经网络在训练、验证过程中相关的基本API功能，还会默认提供自动化微分、自动并行等功能

     ModeZoo模型库存放大量的AI算法，通过面向不同领域的开发工具套件MindSpore DevKit和高级扩展库MindSpore Extend将科学计算与深度学习结合，将数值计算与深度学习相结合，运用MindSpore Data进行数据预处理、包含数据采样、数据迭代、数据格式转换等不同的数据操作，在训练过程中会出现很多调试调优的问题，这时候我们就运用MindSpore Insight可视化模块对Loss曲线、算子执行情况、权重参数变量等相关调试调优数据进行可视化，方便在训练过程中进行调试调优。在训练阶段，攻击者可以掺入恶意数据来影响AI模型的推理能力，这时候MindSpore Armour模块会进行防守，提供AI安全机制。

      神经网络模型训练完后，可以导出为MindSpore Hub预训练模型，通过MindIR提供的端云统一的IR格式定义网络的逻辑结构和算子的属性，将该格式模型导出到不同的模块进行执行推理来实现一次训练多次部署。

三、三种不同层次的API结构

昇思MS提供三种不同层次的API

API又称“应用程序编程接口”，是一套规则和定义，定义了软件组件之间如何互相通信，包括数据的请求和接收方式。

从高到低定义：

第一层高阶High-Level Python API：

      提供了更好的封装性，在中阶API的基础上又提供了训练推理的管理、混合精度训练、调试调优等高级接口，方便用户控制整网的执行流程和实现神经网络的训练推理及调优。

第二层中阶Medium-Level Python API：

      兼顾灵活及封装，满足不同领域和层次开发者需求，它封装了低阶API，提供网络层、优化器、损失函数等模块。用户可以通过种阶API灵活构建神经网络和控制执行流程，快速实现模型算法逻辑。

第三层低阶Low-Level Python API：

      提供更好的灵活性，主要包括张量定义、基础算住子、自动微分等模块，用户可使用低阶API轻松实现张量定义和求导计算。

心得体会：

      学习完第一课对MindSpore有了大致的了解，这是一个全场景的深度学习框架，运用多领域模块来训练大模型，更有运用MindSpore Science科学计算来支持电磁仿真、分子模拟、量子计算等为未来科技发展提供了有力的工具。有全场景统一的三层API，开发态良好，也有可视化模块来完成调试调优，与pytorch不同这是一个注重开发效率和执行性能的深度学习框架，在性能优化有更大的优势，对昇思MindSpore有了更大的兴趣。