深度学习框架进行源码实现时的共性计算特征

1.一次并行计算一个batch，因此所有的计算过程产生的tensor多了第一维batch_size

2.源码实现大量用到了python的广播功能（broadcasting），实现了不同维度数组间的直接计算

3.tensor之间的各种拼接变换组合

4.还有经常用的tensor.max（）函数，可以输出由(最值tensor，及最值在tensor中的位置索引tensor)组成的元组。