zoukankan      html  css  js  c++  java
  • 如何理解先验概率与后验概率和似然函数

    先验概率:即一开始由统计得到的客观概率

    后验概率:由数据样本和先验概率推测得到的概率

    举个例子:

    玩英雄联盟占到中国总人口的60%,不玩英雄联盟的人数占到40%:

    为了便于数学叙述,这里我们用变量X来表示取值情况,根据概率的定义以及加法原则,我们可以写出如下表达式:

    P(X=玩lol)=0.6;P(X=不玩lol)=0.4,这个概率是统计得到的,即X的概率分布已知,我们称其为先验概率(prior probability);

    另外玩lol中80%是男性,20%是小姐姐,不玩lol中20%是男性,80%是小姐姐,这里我用离散变量Y表示性别取值,同时写出相应的条件概率分布:

    P(Y=男性|X=玩lol)=0.8,P(Y=小姐姐|X=玩lol)=0.2

    P(Y=男性|X=不玩lol)=0.2,P(Y=小姐姐|X=不玩lol)=0.8

    那么我想问在已知玩家为男性的情况下,他是lol玩家的概率是多少:

    依据贝叶斯准则可得:

    P(X=玩lol|Y=男性)=P(Y=男性|X=玩lol)*P(X=玩lol)/

    [ P(Y=男性|X=玩lol)*P(X=玩lol)+P(Y=男性|X=不玩lol)*P(X=不玩lol)]

    最后算出的P(X=玩lol|Y=男性)称之为X的后验概率,即它获得是在观察到事件Y发生后得到的

    如何理解似然函数

    这个是quora上的一个回答 What is the difference between probability and likelihood?

    在评论中这位老师将概率密度函数和似然函数之间的关系,类比成 [公式][公式] 之间的关系。详细翻译如下:

    2我们可以做一个类比,假设一个函数为 [公式] ,这个函数包含两个变量。

    如果你令b=2,这样你就得到了一个关于a的二次函数,即 [公式]

     

    当你令a=2时,你将得到一个关于b的指数函数,即 [公式]

     

    可以看到这两个函数有着不同的名字,却源于同一个函数。

    而p(x|θ)也是一个有着两个变量的函数。如果,你将θ设为常量,则你会得到一个概率函数(关于x的函数);如果,你将x设为常量你将得到似然函数(关于θ的函数)

    下面举一个例子:

    有一个硬币,它有θ的概率会正面向上,有1-θ的概率反面向上。θ是存在的,但是你不知道它是多少。为了获得θ的值,你做了一个实验:将硬币抛10次,得到了一个正反序列:x=HHTTHTHHHH。

    无论θ的值是多少,这个序列的概率值为 θ⋅θ⋅(1-θ)⋅(1-θ)⋅θ⋅(1-θ)⋅θ⋅θ⋅θ⋅θ = θ⁷ (1-θ)³

    比如,如果θ值为0,则得到这个序列的概率值为0。如果θ值为1/2,概率值为1/1024。

    但是,我们应该得到一个更大的概率值,所以我们尝试了所有θ可取的值,画出了下图:

     

    这个曲线就是θ的似然函数,通过了解在某一假设下,已知数据发生的可能性,来评价哪一个假设更接近θ的真实值。

    如图所示,最有可能的假设是在θ=0.7的时候取到。但是,你无须得出最终的结论θ=0.7。事实上,根据贝叶斯法则,0.7是一个不太可能的取值(如果你知道几乎所有的硬币都是均质的,那么这个实验并没有提供足够的证据来说服你,它是均质的)。但是,0.7却是最大似然估计的取值。

    因为这里仅仅试验了一次,得到的样本太少,所以最终求出的最大似然值偏差较大,如果经过多次试验,扩充样本空间,则最终求得的最大似然估计将接近真实值0.5。在这篇博客中有详细的过程,就不再赘述。

    参考链接:

    https://zhuanlan.zhihu.com/p/26464206

    https://www.zhihu.com/question/54082000/answer/470252492

  • 相关阅读:
    免费的视频、音频转文本
    Errors are values
    Codebase Refactoring (with help from Go)
    Golang中的坑二
    Cleaner, more elegant, and wrong(msdn blog)
    Cleaner, more elegant, and wrong(翻译)
    Cleaner, more elegant, and harder to recognize(翻译)
    vue控制父子组件渲染顺序
    computed 和 watch 组合使用,监听数据全局数据状态
    webstorm破解方法
  • 原文地址:https://www.cnblogs.com/long5683/p/11167553.html
Copyright © 2011-2022 走看看