CNN学习笔记：卷积神经网络
卷积神经网络
卷积神经网络是一种层次模型，其输入是原始数据，如RGB图像、音频等。卷积神经网络通过卷积（convolution）操作、汇合（pooling）操作和非线性激活函数的映射等一系列操作的层层堆叠，将高层语义信息逐层由原始信息中抽取出来，逐层抽象。
基本结构
卷积神经网络的基本结构通常由三部分组成：
- 输入层：数据输入
- 多个卷积层和池化层（也称下采样层、采样）
- 卷积层：进行特征提取。
- 池化层：减少参数规模，降低计算复杂度。
- 全连接层和输出层
- 全连接层：实现图片分类
- 输出层：输出识别结果
网络训练过程
深度卷积神经网络的学习过程就是对卷积神经网络的训练过程，有计算信号的正向传播和误差的反向传播两个过程组成。
正向传播
正向传播是指从输入层到输出层的信息传播过程，该过程的基本操作包括：
- 从输入层到卷积层或从池化层到卷积层的卷积操作
- 从卷积层到池化层的池化操作
- 全连接层的分类操作
反向传播
卷积神经网络的反向传播涉及两个基本问题，误差的反向传播和参数的反向调整。
前者与当前网络层的类型有关，即卷积层、池化层、全连接层的误差反向传播方法不同；后者一般通过梯度计算来实现。
反向传播算法（Back-Propagation algorithm）将误差或损失由最后一层逐层向前反馈，更新每层参数，并在更新参数后再次前馈，如此反复，知道网络模型手链，从而达到模型训练的目的。