TVM图优化与算子融合
计算图的定义
Computational graphs: a common way to represent programs in deep learning frameworks
对于图优化来说，有很多种图优化手段：
Operator Fusion
Constant Parameter Path Pre-Computation
Static Memory Reuse Analysis
Data Layout Transformation
AlterOpLayout
SimplifyInference
计算图优化层（Optimizing Computational Graphs）
这个层级结构实际上是针对各种硬件后端生成了同一种运算符的微调版本，即对其中的张量运算进行了相关优化。
张量优化层（tensor optimization layer）
Schedule Space
TVM提出 Schedules 的概念，指的是一种将计算描述（张量运算）降低到后端（底层）优化实现的特定规则。这也是TVM实现的核心。
其理念是对 Schedules 空间和用于遍历此空间的转换进行建模,从而提供生成低级代码的不同方法。TVM的 Schedules 空间如图所示：
