zoukankan
html css js c++ java
JS散度
JS散度
(Jensen-Shannon divergence)
JS散度解决了KL不对称的问题,JS是对称的。
很明显,如果P1,P2完全相同,那么JS =0, 如果完全不相同,那么就是1.
JS散度是利用KL散度来得到的。JS是对称的而且值是有界的[0,1].
P,Q和第三个分布进行KL计算(第三个分布:(P+Q)/2 )
JS散度是有界的:
但是KL和JS散度来度量时候有一个问题:
如果两个分配P,Q离得很远,完全没有重叠的时候,那么KL值是没有意义的,而JS值是一个常数。这在学习算法中是比较致命的,这就意味这这一点的梯度为0。梯度消失了。
查看全文
相关阅读:
如何设计一个秒杀系统
Leetcode题目437:路径总和III(递归-简单)
Leetcode题目461:汉明距离(位运算-简单)
Leetcode题目617:合并二叉树(递归-简单)
分布式锁
分布式搜索引擎
数据库
Java知识体系思维导图
wav文件头详解,看懂wav文件
推荐一个最近在学习的AI算法工程师手册,侵删
原文地址:https://www.cnblogs.com/smuxiaolei/p/7400923.html
最新文章
erlang 在线生成crashdump
erlang 故障排查工具
erlang 虚机crash
Erlang C1500K长连接推送服务-内存
Erlang C1500K长连接推送服务-性能
redis lua
erlang 虚机性能调优
java问题排查总结
erlang 虚机CPU 占用高排查
android 移动网络实时抓包
热门文章
erlang 分布式数据库Mnesia 实现及应用
WhatsApp的Erlang世界
一次erlang 节点CPU严重波动排查
infoq 微信后台存储架构
总结初用erlang 时的遇到一些问题
gen_server port 调用receive_match 问题
erlang 200w进程测试
haproxy测试
Mysql常见问题
Java主流锁
Copyright © 2011-2022 走看看