zoukankan
html css js c++ java
JS散度
JS散度
(Jensen-Shannon divergence)
JS散度解决了KL不对称的问题,JS是对称的。
很明显,如果P1,P2完全相同,那么JS =0, 如果完全不相同,那么就是1.
JS散度是利用KL散度来得到的。JS是对称的而且值是有界的[0,1].
P,Q和第三个分布进行KL计算(第三个分布:(P+Q)/2 )
JS散度是有界的:
但是KL和JS散度来度量时候有一个问题:
如果两个分配P,Q离得很远,完全没有重叠的时候,那么KL值是没有意义的,而JS值是一个常数。这在学习算法中是比较致命的,这就意味这这一点的梯度为0。梯度消失了。
查看全文
相关阅读:
[转]使用Java Mission Control进行内存分配分析
JDE开发端安装问题(JDE初步卸载重装)
JDE开发端安装笔记
[转]JDE910--jas.ini参数说明
[转]十个常见的缓存使用误区及建议
JDE910笔记2--OMW项目建立及简单使用
JDE910笔记1--基础介绍及配置
[转] 编程之美--字符串移位包含的问题
关于JDBC
[转]何时使用委托而不使用接口(C# 编程指南)
原文地址:https://www.cnblogs.com/smuxiaolei/p/7400923.html
最新文章
K Smallest In Unsorted Array
652. Find Duplicate Subtrees
863. All Nodes Distance K in Binary Tree
255. Verify Preorder Sequence in Binary Search Tree
Tweaked Identical Binary Trees
176. Second Highest Salary
175. Combine Two Tables
595. Big Countries
783. Minimum Distance Between BST Nodes
243. Shortest Word Distance
热门文章
107. Binary Tree Level Order Traversal II Java Solutions
102. Binary Tree Level Order Traversal Java Solutions
110. Balanced Binary Tree Java Solutions
344. Reverse String Java Solutions
198. House Robber Java Solutions
345. Reverse Vowels of a String Java Solutions
24. Swap Nodes in Pairs Java solutions
121. Best Time to Buy and Sell Stock Java Solutions
231. Power of Two java solutions
21. Merge Two Sorted Lists Java solutions
Copyright © 2011-2022 走看看