深度学习模型轻量化（下）
2.4 蒸馏
2.4.1 蒸馏流程
蒸馏本质是student对teacher的拟合，从teacher中汲取养分，学到知识，不仅仅可以用到模型压缩和加速中。蒸馏常见流程如下图所示
1. 老师和学生可以是不同的网络结构，比如BERT蒸馏到BiLSTM网络。但一般相似网络结构，蒸馏效果会更好。
2. 总体loss为 soft_label_loss + hard_label_loss。soft_label_loss可以用KL散度或MSE拟合
3. soft label为teacher模型的要拟合的对象。可以是模型预测输出，也可以是embeddings, 或者hidden layer和attention分布。
针对软标签的定义，蒸馏的方案也是百花齐放，下面分享两篇个人认为非常经典的文章。
2.4.2 distillBERT
DistillBERT: A distilled version of BERT: smaller, faster, cheaper and lighter
DistillBERT由大名鼎鼎的HuggingFace出品。主要创新点为：
1. Teacher 12层，student 6层，每两层去掉一层。比如student第二层对应teacher第三层
2. Loss= 5.0 * Lce+2.0 * Lmlm+1.0 * Lcos
- Lce: soft_label 的KL散度
- Lmlm: mask LM hard_label 的交叉熵
- Lcos：hidden state 的余弦相似度
DistilBERT 比 BERT 快 60%，体积比 BERT 小 60%。在glue任务上，保留了 95% 以上的性能。在performance损失很小的情况下，带来了较大的模型压缩和加速效果。
2.4.3 TinyBERT
TinyBERT: Distilling BERT for Natural Language Understanding
总体结构
重点来看下 TinyBERT，它是由华为出品，非常值得深入研究。TinyBERT 对 embedding 层，transformer层（包括hidden layer和attention）和 prediction 层均进行了拟合。如下图所示。
TinyBERT 蒸馏过程
其中Embeddings采用MSE, Prediction采用KL散度, Transformer层的hidden layer和attention，均采用MSE。loss如下
其中m为层数。
效果分析
表2: glue任务上的performance。在glue任务上，可达到bert-base的96%，几乎无损失。表3: tinyBERT模型大小和推理速度。缩小7.5倍，加速9.4倍。压缩和加速效果十分明显。
消融分析
表6：分析embedding、prediction、attention、hidden layer软标签作用，其中attention和hidden layer作用最大。这个也很好理解，transformer层本来就是整个BERT中最关键的部分。
表7：分析老师学生不同层对应方法的效果，uniform为隔层对应，top为全部对应老师顶部几层，bottom为全部对应老师底部几层。Uniform效果明显好很多。这个也很好理解，浅层可以捕捉低阶特征，深层可以捕捉高阶特征。全是低阶或者高阶显然不合适，我们要尽量荤素搭配。
3 框架层加速
3.1 手机端AI能力
目前移动端AI框架也比较多，包括谷歌的tf-lite，腾讯的NCNN，阿里的MNN，百度的PaddleLite, 小米的MACE等。他们都不同程度的进行了模型压缩和加速的支持。特别是端上推理的加速。这个可以参考“手机端AI性能排名“。
3.2 端侧AI框架加速优化方法
个人总结的主要方法如下，可能有遗漏哈，各位看官请轻拍：
1. 基于基本的C++编译器优化。
a. 打开编译器的优化选项，选择O2等加速选项。
b. 小函数内联，概率大分支优先，避免除法，查表空间换时间，函数参数不超过4个等。
2. 利用C，而不是C++，C++有不少冗余的东西。
3. 缓存优化
a. 小块内存反复使用，提升cache命中率，尽量减少内存申请。比如上一层计算完后，接着用作下一层计算。
b. 连续访问，内存连续访问有利于一次同时取数，相近位置cache命中概率更高。比如纵向访问数组时，可以考虑转置后变为横向访问。
c. 对齐访问，比如224*224的尺寸，补齐为256*224，从而提高缓存命中率。
d. 缓存预取，CPU计算的时候，preload后面的数据到cache中。
4. 多线程。
a. 为循环分配线程。
b. 动态调度，某个子循环过慢的时候，调度一部分循环到其他线程中。
5. 稀疏化
a. 稀疏索引和存储方案，采用eigen的sparseMatrix方案。
6. 内存复用和提前申请
a. 扫描整个网络，计算每层网络内存复用的情况下，最低的内存消耗。推理刚开始的时候就提前申请好。避免推理过程中反复申请和释放内存，避免推理过程中因为内存不足而失败，复用提升内存访问效率和cache命中率。
7. ARM NEON指令的使用，和ARM的深度融合。NEON可以单指令多取值（SIMD），感兴趣可针对学习，这一块水也很深。
8. 手工汇编，毕竟机器编译出来的代码还是有不少冗余的。可以针对运行频次特别高的代码进行手工汇编优化。当然如果你汇编功底惊天地泣鬼神的强，也可以全方位手工汇编。
9. 算子支持：比如支持GPU加速，支持定点化等。有时候需要重新开发端侧的算子。
4 硬件层加速
硬件层加速比较硬核，小编就连半瓢水都达不到了，为了保证整个方案的全面性，还是硬着头皮东施效颦下。目前AI芯片厂家也是百花齐放，谁都想插一脚，不少互联网公司也来赶集，如下图所示。
AI 芯片目前三种方案。GPU目前被英伟达和AMD牢牢把控。ASIC目前最火，TPU、NPU等属于ASIC范畴。
5 总结
本文对深度学习模型压缩和加速的几类常用的方法进行了介绍。
参考文献
1. ALBERT: A Lite BERT for Self-supervised Learning of Language Representations
2. MobileNets: Efficient Convolutional Neural Networks for Mobile Vision Applications
3. Are Sixteen Heads Really Better than One?
4. DistillBERT: A distilled version of BERT: smaller, faster, cheaper and lighter
5. TinyBERT: Distilling BERT for Natural Language Understanding
6. 手机端AI性能排名