zoukankan      html  css  js  c++  java
  • 轻量模型之ShuffleNet

    课程总结:

    1.ShuffleNet创新点

    分组点卷积,通道重排

    2.分组点卷积

    通道分组进行卷积

     

     

     

     3.通道重排

     

     4.ShuffleNet结构

     

     5.ShuffleNetV2等改进点

     

     

     总结:

     深度可分离卷积和分组卷积之间的异同:

    https://zhuanlan.zhihu.com/p/65377955

    分组卷积是把特征图通道分组,分别用对应一小段卷积核进行卷积然后在通道上相加

    深度可分离卷积将卷积操作中的滤波和维数变换分开成两组卷积,先在特征图上卷积,然后再分别在每个1x1小块所有的通道上点卷积

    作业题:

    1.通道重排(channel shuffle)意在解决什么问题?

    在分组点卷积中,某个通道的输出仅来自一小部分输入通道,阻止了信息流动,特征表示。而通道重排可以使我们从不同组中获取输入数据,使构建具有多个组卷积层的更强大的网络结构成为可能。使得各个通道的信息能够融合,关联全局特征

    2.文字回答:通道重排具体步骤是什么?

    假定某卷积层分为g组,输出特征通道数为gxn

    (1)reshape:将gn个通道数变为维度为(g,n)

    (2)transpose:将上述转置维度转置为(n,g)

    (3)flatten:展开作为下一组卷积输入

    3.代码实践,利用pytorch复现分组数为4的shufflenet网络模型。

    程序运行结果:

    Training Epoch: 99 [50000/50000]    Loss: 0.1599    Accuracy: 96.250000
    Test set: Average loss: 0.0023, Accuracy: 0.9131
  • 相关阅读:
    虚拟机安装Linux方案和操作系统启动流程
    CentOS7防止root密码被破解
    子网划分和VLAN
    Python之包的相关
    禁止复制文本的代码 HTML
    asp.net中Session过期设置方法
    CSS+DIV问题!DIV的最小高度问题!
    设置COOKIE过期时间的方法
    网站常见问题及解决方法(div/css)
    ASP.NET中如何删除最近打开的项目和文件的记录
  • 原文地址:https://www.cnblogs.com/sariel-sakura/p/13276843.html
Copyright © 2011-2022 走看看