https://www.cnblogs.com/lfri/p/10479353.html
active learning
逐渐加大不好区分的类别的权重~
充分利用数据集
https://www.cnblogs.com/lfri/p/10486972.html
池化不只有减少参数的作用,还可以:
- 不变性,更关注是否存在某些特征而不是特征具体的位置。可以看作加了一个很强的先验,让学到的特征要能容忍一些的变化。
- 防止过拟合,提高模型泛化能力
- 获得定长输出。(文本分类的时候输入是不定长的,可以通过池化获得定长输出)
- 提高感受野大小
参考知乎回答:https://www.zhihu.com/question/36686900
而且, CNN不仅可以使用在图片分析上, 也可以使用在文本分析上, 因为句子中邻近的单词总是有相关性的, 不是吗?
attention on local receptives
adaptive convolutional kernel