zoukankan      html  css  js  c++  java
  • WGAN学习

    1.原理

    转自:https://zhuanlan.zhihu.com/p/44169714

     https://blog.csdn.net/weixin_30566111/article/details/95351782,这里提到了第四点:

    2.推导

    W距离用在了什么地方?

    https://www.cnblogs.com/Allen-rg/p/10305125.html

    GAN的原始形式:第一种形式等价在最优判别器下等价于最小化生成分布与真实分布之间的JS散度,

    第二种形式在最优判别器下等价于既要最小化生成分布与真实分布直接的KL散度,又要最大化其JS散度,相互矛盾,导致梯度不稳定,而且KL散度的不对称性使得生成器宁可丧失多样性也不愿丧失准确性,导致collapse mode现象。

    WGAN本作引入了Wasserstein距离,由于它相对KL散度与JS散度具有优越的平滑特性,理论上可以解决梯度消失问题。

    那么目标就是 最小化生成分布和真实分布之间的W距离。

  • 相关阅读:
    commons
    Dozer数据对象转换神器
    xstream
    javassist
    JAVA设计模式之单例模式
    单例模式
    OC_自动引用计数器_0x04
    OC_自动引用计数器_0x03
    OC_自动引用计数器_0x02
    OC_自动引用计数器_0x01
  • 原文地址:https://www.cnblogs.com/BlueBlueSea/p/14628364.html
Copyright © 2011-2022 走看看