zoukankan      html  css  js  c++  java
  • 关于深度学习中样本权重取0的问题

    1.以前我一直认为像素样本权重取0与直接去掉该样本点效果一样,但今天发现了一个小问题:

    当我用1200×800的图像扔进网络中训练,和我使用1200×1200(将上述1200×800图像扩充)的图像并将扩充的部分的样本权重设为0时,得到的结果不同,且精度有一定差距

    2.发现当数据经过GroupNorm时,两组数据会有差异,经过一系列的卷积等变换,最终数据差异越来越大。

    上图为1200×1200,[:, 800:1200]的样本权重取0的数据经过网络第一层的groupNorm的结果

    上图为1200×800的数据经过网络第一层的groupNorm的结果

    在经过此groupNorm层之前,经过了一层3*3的卷积层并没有使两个数据发生差异 

    3.因为图像空间大小不同,所以Normalization后的数据也会有差异,导致虽然样本权重设为0但是还是会有影响

  • 相关阅读:
    第60届IMO 第5题
    第31届IMO 第2题
    洛谷【P1595 信封问题】 题解
    洛谷【P2022 有趣的数】 题解
    洛谷【P5004 专心OI
    04-----jQuery的属性操作
    03-----jQuery动画效果
    02-----jQuery的选择器
    01-----jQuery介绍
    17-----案例
  • 原文地址:https://www.cnblogs.com/zmbreathing/p/sample_weight.html
Copyright © 2011-2022 走看看