昇思MindSpore是一个全场景深度学习框架。
-
一、框架组成
1. 模型库ModelZoo
提供深度学习算法网络。
2. 扩展库MindSpore Extend
拓展领域场景,如GNN/深度概率编程/强化学习等。
3. 科学计算MindSpore Science
科学计算套件。
包含数据集、基础模型、预置高精度模型和前后处理工具。
4. 全场景统一API MindExpression
Python前端表达与编程。
函数/OOP编程范式融合;
AI+数值计算表达融合;
动静统一表达:
统一编码方式,一行代码切换动/静
set_context(mode=PYNATIVE_MODE) #切换成动态图模式
set_context(mode=GRAPH_MODE) #切换成静态图模式
单机分布式统一表达:
少量代码从单机转换为分布式
set_auto_parallel_context(parallel_mode=ParallelMode.AUTO_PARALLEL)
5. 第三方前端
C/C++等前端表达。
6. 数据处理层MindSpore Data
数据处理、数据集加载。
支持自定义处理注册和pipeline并行优化。
7. AI编译器MindCompiler
核心编译器,端云统一MindIR。
硬件无关的优化(类型推导、自动微分、表达式化简等)
硬件相关优化(自动并行、内存优化、图算融合、流水线执行等)
部署推理相关的优化(量化、剪枝等)
8. 全场景运行时MindRT
运行时系统,包括云侧主机侧、端侧以及更小IoT的运行时系统。
9. 可视化调试调优工具MindSpore Insight
查看训练过程;
优化模型性能;
调试精度问题;
解释推理结果。
10. 安全增强库MindSpore Armour
企业级功能,安全与隐私保护。
对抗鲁棒性;
模型安全测试;
差分隐私训练;
隐私泄露风险评估;
数据漂移检测;
.....
-
二、三层API
1. L低阶API
包括张量定义、基础算子、自动微分等模块。
Tensor接口 自定义张量
grad接口 计算导数
2. M中阶API
包括网络层、优化器、损失函数等模块,构建神经网络和控制执行流程,快速实现模型算法逻辑。
Cell接口 构建神经网络模型和计算逻辑
Loss模块 损失函数
Optimizer接口 神经网络优化
Dataset模块 数据处理
3. H高阶API
包括训练推理的管理、混合精度训练、调试调优等高级接口,控制整网执行流程、实现神经网络的训练推理及调优。
Model接口 神经网络模型和相关的设置、训练
-
三、华为昇腾AI全栈
从下往上说明。
1. 计算资源
包括Ascend芯片、IP和服务器等Atlas系列硬件。
2. CANN
昇腾芯片使能、驱动层。
3. MindSpore AI框架
支持端、边、云各场景的模型训练和推理。
4. 应用使能
包括ModelArts、MindX等应用服务能力。