zoukankan      html  css  js  c++  java
  • fc全连接层的作用、卷积层的作用、pooling层、激活函数的作用

    fc:1.起到分类器的作用。对前层的特征进行一个加权和,(卷积层是将数据输入映射到隐层特征空间)将特征空间通过线性变换映射到样本标记空间(也就是label)

      2.1*1卷积等价于fc;跟原feature map一样大小的卷积也等价于fc,也就是输入是一个5*3*3的feature map,用一个3x3x5的卷积去计算就是fc 

      3.全连接层参数冗余,用global average pooling替代。在feature map每个channel上使用gap,然后得到channel个结果,分别对应相应的类别的confidence score,最后输入给softmax。这样做减少参数,防止过拟合。

      4.迁移学习中,目标域和源域差别较大,不用fc的网络比用fc的网络效果差

      5.卷积层本来就是全连接的一种简化形式:不全连接+参数共享,按照局部视野的启发,把局部之外的弱影响直接抹为零影响,同时还保留了空间位置信息。这样大大减少了参数并且使得训练变得可控。

      6.fc利用的是上一层所有输入来计算,抛弃了卷积层不同位置的权值共享。对它来说,输入的不同位置出现同一个pattern是不等价的,因此不适合用于输出对于每个位置寻找类似pattern的task,比如segmentation、edge detection以及end-to-end的object detection等等,而比较适合用于classification。

    特征层提取一个物体的各个部分,不同特征,然后通过fc整合到一起

     
    conv:   1.相当于一个特征提取器来提取特征
        2.提供了位置信息
        3.减少了参数个数

    pooling: 1.提取特征

          2.减少参数

    激活函数:增加网络的非线性表达能力

  • 相关阅读:
    JS计算两个日期时间之差之天数不正确
    nodejs 第一天
    SQLSERVER存储过程基本语法
    复制表结构和数据SQL语句
    SVN使用教程总结
    jquery hover事件只触发一次动画
    导出格式
    C# 反射给对象赋值遇到的问题——类型转换
    a标签下载
    检测到在集成的托管管道模式下不适用的 ASP.NET 设置。
  • 原文地址:https://www.cnblogs.com/ymjyqsx/p/9451739.html
Copyright © 2011-2022 走看看