zoukankan      html  css  js  c++  java
  • SRGAN的原理及Pytorch实现

    follow this repo: https://github.com/aladdinpersson/Machine-Learning-Collection/tree/master/ML/Pytorch/GANs/SRGAN

    paper: https://arxiv.org/pdf/1609.04802.pdf

    介绍

    号称是第一个将GAN应用于图像超分辨率的论文

    Super-Resolution, SR

    Single Image Super Resolution, SISR

    low-resolution, LR

    high-resolution, HR

    mean square error, MSR

    peak signal-to-noise ratio, PSNR

    mean-opinion-score, MOS

    结构

    全部在图里面了

    有一点出入的地方是,论文文字中residual block是16块,图中只画了5块(可能是画不下吧

    喔 zz了,B=16

    Subpixel模块

    PixelShuffler操作,这里是用于Upsampling,扩大图片尺寸2倍

    Subpixel模块是一种在超分辨率中经常使用的upscale方法,又叫做pixel shuffle。我们知道,对CNN的feature map进行放大的方法有转置卷积,但是如果直接用转置卷积的话,在超分辨率中通常会带入过多人工因素。而Subpixel模块会大大降低这个风险。

    就是,如果我们想把图片放大2倍的话,那么我们需要生成2^2=4个一样大小的feature map,最后将这4个特征图拼成一个大图

      

    loss改进

    MSE/PSNR  不行

    VGG feature map mse  行

    作者认为PSNR高不一定好,PSNR低一点的可能更加符合人的视觉效果

    为此作者设计了mean-opinion test(平均意见得分检验),请26个评分员对图片按5个梯度打分

    比如第3幅的PSNR比第2幅低,但是看起来更逼真(比如帽子部分

    一些思考

    (1) vgg loss真的好吗?

    高PSNR值并不符合人眼直观感受的缺点很早已经被注意到,但从未有有效的算法替代MSE类算法来进行相关工作,问题的根源在于MSE的高效性难以被超越;

    SRGAN 似乎恢复了一些细节,但也有人认为这些其实时高频噪声,噪声在图像处理中的作用十分值得关注,但该领域已经进入半死不活的状态,期待有理论上的突破。

    from https://zhuanlan.zhihu.com/p/27859358

    qs 感觉就是加了复杂的vgg loss,变得既不优雅又低效 

    效果提升也不明显,而是是个主观打分

    论文作者说vgg越深越好,vgg loss就是符合人类视觉效果的终点吗

    vgg随便选吗,需要是同类数据集训练出来的吗?

    (2) residual block的深度怎么确定

    论文中用的16层,作者后来又说>16层会更好,一直residual会学到多的知识吗 

    其他

    SRResNet可以单独用来做SR,这里是用作SRGAN的Generator

    这么看GAN更像是一种训练方法,或者说是一种训练技巧,只是在训练过程中会用到Discirminator,而在推断阶段,仅仅用到的Generator

    因为是全卷积网络,可以适应任何尺寸的图片

    参考链接:https://blog.csdn.net/Rocky6688/article/details/104369905

    个性签名:时间会解决一切
  • 相关阅读:
    VBS处理AD帐号密码到期提醒的脚本[zt]
    简单几步手工扩容LVM、缩小LVM及移除磁盘(笔记)
    python加入进度条:tqdm 和 progressbar
    python的map和reduce函数
    python的lambda表达式
    python的推导式 —— 列表推导式、集合和字典推导式
    Pyspark中遇到的 java.io.IOException: Not a file 和 pyspark.sql.utils.AnalysisException: 'Table or view not found
    pyecharts绘制map地图
    pyecharts绘制geo地图
    sklearn.feature_extraction.text 的TfidfVectorizer函数
  • 原文地址:https://www.cnblogs.com/lfri/p/14864026.html
Copyright © 2011-2022 走看看