zoukankan
html css js c++ java
JS散度
JS散度
(Jensen-Shannon divergence)
JS散度解决了KL不对称的问题,JS是对称的。
很明显,如果P1,P2完全相同,那么JS =0, 如果完全不相同,那么就是1.
JS散度是利用KL散度来得到的。JS是对称的而且值是有界的[0,1].
P,Q和第三个分布进行KL计算(第三个分布:(P+Q)/2 )
JS散度是有界的:
但是KL和JS散度来度量时候有一个问题:
如果两个分配P,Q离得很远,完全没有重叠的时候,那么KL值是没有意义的,而JS值是一个常数。这在学习算法中是比较致命的,这就意味这这一点的梯度为0。梯度消失了。
查看全文
相关阅读:
Cognitive Radio Cognitive Network Simulator (NS3 based)
RCU(Read-Copy Update)synchronize原理分析
英雄黑客:一个试图提高物联网安全性的“义务警员”
Android NDK放弃GCC,全面转向Clang
Why is FreeBSD deprecating GCC in favor of Clang/LLVM?
(Low Level Virtual Machine) LLVM 与 Clang介绍
RMS谈GCC、LLVM和Copyleft
LLVM和Clang背后的故事
FEP: 测试 lineage, 获得 CPU, MEMORY 统计信息
以wifi-example-sim.cc为例说明NS3统计数据模型
原文地址:https://www.cnblogs.com/smuxiaolei/p/7400923.html
最新文章
C++模板的特化
C++模板的特化
Queue-all queue functions
Queue-all queue functions
priority_queue-all priority_que functions
Linux下rz,sz与ssh的配合使用,实现文件传输
Linux 下安装软件包的方法
CentOS下重新安装yum的方法
linux中的文件编码及编码修改
linux下用户及用户组的管理
热门文章
自顶向下学搜索引擎——北大天网搜索引擎TSE分析及完全注释[1]寻找搜索引擎入口
linux screen 命令详解
lnmp环境一键搭建及卸载
Linux下gcc与g++用法以及编写makefile
让screen帮助你协同工作
appserver WildFly 8.1 / jboss debug / jboss rmi
OS + Linux RedHat 6.3 QA
OS + Windows 10 / office excel vlookup / CredSSP
webserver nginx / https / upstream
nGrinder TestRunner XFF / X-Forwarded-For
Copyright © 2011-2022 走看看