zoukankan
html css js c++ java
JS散度
JS散度
(Jensen-Shannon divergence)
JS散度解决了KL不对称的问题,JS是对称的。
很明显,如果P1,P2完全相同,那么JS =0, 如果完全不相同,那么就是1.
JS散度是利用KL散度来得到的。JS是对称的而且值是有界的[0,1].
P,Q和第三个分布进行KL计算(第三个分布:(P+Q)/2 )
JS散度是有界的:
但是KL和JS散度来度量时候有一个问题:
如果两个分配P,Q离得很远,完全没有重叠的时候,那么KL值是没有意义的,而JS值是一个常数。这在学习算法中是比较致命的,这就意味这这一点的梯度为0。梯度消失了。
查看全文
相关阅读:
第五章课后练习题
第四章课后练习
函数
变量、常量及类型
go环境搭建及编辑器安装
Matplotlib(绘图和可视化)
Pandas例题(以NBA球队为例)
Pandas
Numpy
jupyter notebook编辑器的用法
原文地址:https://www.cnblogs.com/smuxiaolei/p/7400923.html
最新文章
HDU 4850 Wow! Such String!
ZOJ 2599 Graduated Lexicographical Ordering (数位DP)
文法分类的python实现
OpenGL在Ubuntu 14.04 中的设置与编程
Ubuntu 14.04 更新源
win10 EFI装ubuntu14.04双系统 及初始配置
Linux运维
RSA加密算法的java实现
MapReduce几个简单的例子
Hadoop中HDFS的管理
热门文章
vim基础使用
解决ubuntu常见问题
Java代码导入导出 Excel 表格最简单的方法
js上课笔记
初始JavaScript
HTML5+Css3
java基础知识总结
java基础 第八章课后习题
java基础 第七章课后习题
java基础 第六章课后习题
Copyright © 2011-2022 走看看