卷积神经网络
什么是卷积
图像的表示
例如mnist灰度图像，0~ 255表示该位置图像的值，在一般数据处理的时候我们将数据除以255，让灰度值在0~1的范围之内。
一般的图片是彩色的，也就是拥有RGB通道，使用三张表来存储这张图片的三个通道的每个数值每个数值也是0~255
卷积
通过在图像上生成一个小窗口（感受野），来在图片上进行移动，并共享参数（局部相关性）
从全连接的784条线变为只进行对应点周边的线（9条）
不同的kernal就代表的是不同的模式，有可能是blur，有可能是edge detect，从而产生的map也是不一样的
例子：
layer = torch.nn.Conv2d(1,3,kernel_size=3,stride=1,padding=0)
这里的第一个参数表示input channel（黑白就是1，彩色就是3）
第二个参数表示kernel的数量为3
第三个参数表示kernel的大小
第四个参数表示kernel移动的步长
第五个参数表示最外围是不是要进行补充padding
核函数
一个在彩色图像中使用的核函数的shape：【3，3，3】
第一个3表示是在图像的RGB三个通道进行计算（这个要与输入图像的相应通道数相等）；在核函数计算的时候，每个通道的核函数计算完毕输出的3个数字最后相加。
第二与第三个3表示核函数的大小是3*3的
多个核函数的shape：【16，3，3，3】
表示其中存在16个kernel核函数，一般说kernel的channel就说的是这个16
例子：
输入 ：【batch_size,3,28,28】
一个kernel：【3，3，3】
多个kernel：【16，3，3，3】
输出：【batch_size,16,28,28】(padding为1)
池化
下采样（downsample）：
最大池化（maxpooling）——一般stride=2
平均池化（avg pooling）——一般stride=2
上采样（upsample）：
复制
例子：
相应计算
当我们再设计完卷积层以及池化层之后，在后面我们可能会使用全连接层来处理最后的数据，但是此时全连接层的维数计算可能并不是太清楚，这里通过例子我们来计算一下。
数字概念：
输入的数据：（2，3，32，32）——>（B,C,H,W）：（batch size，feature channel，height，width）
conv函数（3，6，5，1，1）——>(input channel，output channel，kernel size，stride，padding)
总的公式（卷积与池化都可以使用这个公式）：
模型：
self.conv_unit=nn.Sequential(
nn.Conv2d(3,6,kernel_size=5,stride=1,padding=1),
nn.MaxPool2d(kernel_size=2,stride=2,padding=0),
nn.Conv2d(6,6,kernel_size=5,stride=1,padding=1),
nn.MaxPool2d(kernel_size=2,stride=1,padding=0)
)
输入：
tmp = torch.rand(2,3,32,32)
开始：【2，3，32，32】——>第一层卷积后【2，6，30，30】——》第一层池化后【2，6，15，15】——》第二层卷积后【2，6，13，13】——》第二层池化后——》【2，6，12，12】
batch norm
image normalization
在不可避免需要使用sigmoid激活函数的时候，如果数据的输入太小或者太大的话，会导致梯度消失，梯度的更新几乎停止，这样对训练时间的消耗以及相应的效果都会有影响，所以我们要在输入数据的时候进行数据的处理，将数据的输入控制在0~1之间，最好的情况就是数据的均值在0附近
使用normalization，收敛的速度会变快，而且精度也会提升，模型变得更稳定，使得对于超参数的调整不再那么敏感
例子（数据的标准化）：
normalize = transfroms.Normalize(mean=[0.485,0.456,0.406],std=[0.229,0.224,0.225])
mean表示图像的RGB三个通道的均值，而std则是相应的方差，具体的计算方法就是：
((Xr)-0.485)/0.229 ((Xg)-0.456)/0.224 ((Xb)-0.406)/0.225
batch normalization
如图，其中c表示一个batch的数据的channel数，N表示数据的数量，H、W表示图片的长与宽。
所以一个batch的数据为【N,C,H,W】——【N,C,HW】
其中batch norm表示以每个channel为切入对象，会生成一个【C】的数据，分别表示C个各自channel下N张图片的一个均值
同理layer morm表示N张各自图片下C个channel的一个均值
batch normalization详细内容
如图，有三个channel，我们收集三个channel的信息，可以得到μ以及δ，然后将原来的数据减去μ后整体除以δ，就可以将数据转换为一个接近以0为均值，以1为方差的一个分布（N（0，1））
然后乘以一个γ后加一个β，将数据变为（N（β，γ））
μ、δ是通过当前batch的数据进行统计出来的，running-μ、running-(δ^2)表示总的均值与方差；而γ、β则需要参考梯度的信息
例子（数据的归一化）：
x = torch.rand(100,16,784)
layer = nn.BatchNorm1d(16)#这里的16必须与上面的16一致
out = layer(x)#进行一次forward
print(layer.running_mean)#总均值
tensor([0.0499, 0.0500, 0.0500, 0.0498, 0.0501, 0.0502, 0.0498, 0.0500, 0.0502,
0.0501, 0.0500, 0.0499, 0.0502, 0.0502, 0.0500, 0.0500])
print(layer.running_var)#总方差
tensor([0.9083, 0.9083, 0.9084, 0.9084, 0.9083, 0.9083, 0.9084, 0.9083, 0.9083,
0.9083, 0.9083, 0.9083, 0.9084, 0.9084, 0.9084, 0.9083])
通过结果我们可以看到初始的数据是rand（）即均匀分布（0，1），那么均值就是0.5，而layer.running_mean都是在0.5附近，而方差在1附近，而layer.running_var也接近1
由于初始的数据是【100，16，784】，HW在一起，所以使用的是nn.BatchNorm1d（）函数，如果数据是【100，16，28，28】就是nn.BatchNorm2d（）函数
类中的参数说明：
training：表示此时是在train的模式还是test的模式
在test的时候μ、δ无法统计，直接使用running-μ、running-(δ^2)赋值，而test不需要后向传播，γ、β不需更新，所以要在代码中调用
layer.eval()
进行模式的变换
affine：表示是否需要进行γ、β的学习更新，日过设置为false的话那么这个γ就自动为1，β自动为0，且不自动更新
深度残差网络
思路
随着网络的加深，累计的参数变多，越容易导致梯度下降或者梯度爆炸，于是现象就是更深的网络有着更强大的表达，但是随着网络的增加，最终的效果却不好，于是resnet的思路就是在进行网络加深的时候进行一个类似短路的操作，保证最终的效果
通过这样的结构，中间网络的参数减小，导致更深层的网络的实现成为可能。
例子：
class ResBlk(nn.Module):
"""
resnet block
"""
def __init__(self, ch_in, ch_out):# ch_in, ch_out不一定一致，假设ch_in为64，ch_out为256
"""
:param ch_in:
:param ch_out:
"""
super(ResBlk, self).__init__()
self.conv1 = nn.Conv2d(ch_in, ch_out, kernel_size=3, stride=1, padding=1)
self.bn1 = nn.BatchNorm2d(ch_out)
self.conv2 = nn.Conv2d(ch_out, ch_out, kernel_size=3, stride=1, padding=1)
self.bn2 = nn.BatchNorm2d(ch_out)
self.extra = nn.Sequential()
if ch_out != ch_in:#如果输入的channel与输出的channel不相同，将输入channel变为输出channel
# [b, ch_in, h, w] => [b, ch_out, h, w]
self.extra = nn.Sequential(
nn.Conv2d(ch_in, ch_out, kernel_size=1, stride=1),
nn.BatchNorm2d(ch_out)
)
def forward(self, x):
"""
:param x: [b, ch, h, w]
:return:
"""
out = F.relu(self.bn1(self.conv1(x)))
out = self.bn2(self.conv2(out))
# short cut.
# extra module: [b, ch_in, h, w] => [b, ch_out, h, w]
# element-wise add:
out = self.extra(x) + out
return out
稠密连接网络（DENSENET）
稠密块
DenseNet⾥模块的输出不是像ResNet那样和模块的输出相加，⽽是在通道维上连结。这样模块的输出可以直接传入模块后⾯的层。在这个设计中，模块直接跟模块后⾯的所有层连接在了⼀起。这也是它被称为“稠密连接”的原因。
DenseNet使⽤了ResNet改良版的“批量归⼀化、激活和卷积”结构。
稠密块由多个 conv_block 组成，每块使⽤相同的输出通道数。但在前向计算时，我们将每块的输⼊和 输出在通道维上连结。
class DenseBlock(nn.Module):
def __init__(self, num_convs, in_channels, out_channels):
super(DenseBlock, self).__init__()
net = []
for i in range(num_convs):
in_c = in_channels + i * out_channels
net.append(conv_block(in_c, out_channels))
self.net = nn.ModuleList(net)
self.out_channels = in_channels + num_convs * out_channels
# 计算输出通道数
def forward(self, X):
for blk in self.net:
Y = blk(X)
X = torch.cat((X, Y), dim=1) # 在通道维上将输⼊和输出连结
return X
过渡层
我们定义⼀个有2个输出通道数为10的卷积块。使⽤通道数为3的输⼊时，我们会得到通道数为的输出就是3+2 * 10 = 23 的输出。由于每个稠密块都会带来通道数的增加，使⽤过多则会带来过于复杂的模型。过渡层⽤来控制模型复杂度。它通过卷积层来减⼩通道数，并使⽤步幅为2的平均池化层减半⾼和宽，从⽽进⼀步降低模型 复杂度。
def transition_block(in_channels, out_channels):
blk = nn.Sequential(
nn.BatchNorm2d(in_channels),
nn.ReLU(),
nn.Conv2d(in_channels, out_channels, kernel_size=1),
nn.AvgPool2d(kernel_size=2, stride=2))
return blk
DENSENET模型
net = nn.Sequential(
nn.Conv2d(1, 64, kernel_size=7, stride=2, padding=3),
nn.BatchNorm2d(64),
nn.ReLU(),
nn.MaxPool2d(kernel_size=3, stride=2, padding=1))
num_channels, growth_rate = 64, 32 # num_channels为当前的通道数
num_convs_in_dense_blocks = [4, 4, 4, 4]
for i, num_convs in enumerate(num_convs_in_dense_blocks):
DB = DenseBlock(num_convs, num_channels, growth_rate)
net.add_module("DenseBlosk_%d" % i, DB)
# 上⼀个稠密块的输出通道数
num_channels = DB.out_channels
# 在稠密块之间加⼊通道数减半的过渡层
if i != len(num_convs_in_dense_blocks) - 1:
net.add_module("transition_block_%d" % i,
transition_block(num_channels, num_channels // 2))
num_channels = num_channels // 2
net.add_module("BN", nn.BatchNorm2d(num_channels))
net.add_module("relu", nn.ReLU())
net.add_module("global_avg_pool", d2l.GlobalAvgPool2d()) #
GlobalAvgPool2d的输出: (Batch, num_channels, 1, 1)
net.add_module("fc", nn.Sequential(d2l.FlattenLayer(),
nn.Linear(num_channels, 10)))