Ascend昇腾计算

Ascend昇腾计算

Ascend昇腾计算，是基于昇腾系列处理器构建的全栈AI计算基础设施及应用，包括昇腾系列芯片、系列硬件、芯片使能、AI框架、应用使能等。华为Atlas人工智能计算解决方案，基于昇腾系列AI处理器，通过模块、板卡、小站、服务器、集群等丰富的产品形态，打造面向“端、边、云”的全场景AI基础设施方案，涵盖数据中心解决方案、智能边缘解决方案，覆盖深度学习领域推理和训练全流程。

 

图1. Ascend 系统架构

Ascend算子加速方案特性及优点

昇腾AI处理器的加速实现方式是以各种算子为粒度进行调用（OP-based），即通过AscendCL调用一个或几个D亲和算子组合的形式，代替原有GPU的实现方式。其逻辑模型如图2所示。

图2.  PyTorch框架逻辑模型

当前选择在线对接适配方案的主要原因有一下几点：

1. 最大限度的继承PyTorch框架动态图的特性。
2. 最大限度的继承GPU在PyTorch上的使用方式，可以使用户在移植到昇腾AI处理器设备上时，在开发方式和代码重用方面做到最小的改动。
3. 最大限度的继承PyTorch原生的体系结构，保留框架本身出色的特性，比如自动微分、动态分发、Debug、Profiling、Storage共享机制以及设备侧的动态内存管理等。
4. 扩展性好。在打通流程的通路之上，对于新增的网络类型或结构，只需涉及相关计算类算子的开发和实现。框架类算子，反向图建立和实现机制等结构可保持复用。
5. 与GPU的使用方式和风格保持一致。用户在使用在线对接方案时，只需在Python侧和Device相关操作中，指定device为昇腾AI处理器，即可完成用昇腾AI处理器在PyTorch对网络的开发、训练以及调试，用户无需额外进一步关注昇腾AI处理器具体的底层细节。这样可以确保用户的最小化修改及完成平台迁移，迁移成本较低。