zoukankan      html  css  js  c++  java
  • mobilenetV2--->特点

    使用了ConvolutionDepthWise对空间信息和深度信息进行去耦:

    简单描述一下ConvolutionDepthWise:

    深度可分离卷积结构(depthwise separable convolution)计算复杂度分析

    https://zhuanlan.zhihu.com/p/28186857

    这个例子说明了什么叫做空间可分离卷积,这种方法并不应用在深度学习中,只是用来帮你理解这种结构。

    在神经网络中,我们通常会使用深度可分离卷积结构(depthwise separable convolution)。

    这种方法在保持通道分离的前提下,接上一个深度卷积结构,即可实现空间卷积。接下来通过一个例子让大家更好地理解。

    假设有一个3×3大小的卷积层,其输入通道为16、输出通道为32。具体为,32个3×3大小的卷积核会遍历16个通道中的每个数据,从而产生16×32=512个特征图谱。进而通过叠加每个输入通道对应的特征图谱后融合得到1个特征图谱。最后可得到所需的32个输出通道。

    针对这个例子应用深度可分离卷积,用16个3×3大小的卷积核分别遍历16通道的数据,得到了16个特征图谱。在融合操作之前,接着用32个1×1大小的卷积核遍历这16个特征图谱,进行相加融合。这个过程使用了16×3×3+16×32×1×1=656个参数,远少于上面的16×32×3×3=4608个参数。

    这个例子就是深度可分离卷积的具体操作,其中上面的深度乘数(depth multiplier)设为1,这也是目前这类网络层的通用参数。

    这么做是为了对空间信息和深度信息进行去耦。从Xception模型的效果可以看出,这种方法是比较有效的。由于能够有效利用参数,因此深度可分离卷积也可以用于移动设备中。

    src convolution

      input                              output

    M*N*Cin                      M*N*Cout

                 16*3*3*32

    depthwise separable convolution

      input                       output1                          output2

    M*N*Cin                 M*N*Cin                       M*N*Cout

                   16*3*3                       16*32*1*1

    特点2:后面搞了一个全局平均池化操作:(39条消息) 全局平均池化_u012370185的博客-CSDN博客_平均池化

  • 相关阅读:
    java.lang.UnsupportedOperationException: Not supported by BasicDataSource
    c# seo 百度sitemap书写
    c# 泛型原理(旧)
    apache 服务器配置常用知识点合集
    sass 基本常识
    c# TryParse
    webpack 配置热更新
    c# ref和out 详解
    IIS applicationHost.config 查找历史
    c# webapi 自定义返回数据
  • 原文地址:https://www.cnblogs.com/shuimuqingyang/p/14046518.html
Copyright © 2011-2022 走看看