似然函数、最大似然估计简单理解

zoukankan html css js c++ java

似然函数、最大似然估计简单理解
摘抄自维基百科：

https://zh.wikipedia.org/wiki/%E4%BC%BC%E7%84%B6%E5%87%BD%E6%95%B0

https://zh.wikipedia.org/wiki/%E6%9C%80%E5%A4%A7%E4%BC%BC%E7%84%B6%E4%BC%B0%E8%AE%A1

似然函数（Likelihood function、Likelihood）

　　在数理统计学中，似然函数是一种关于统计模型中的参数的函数，表示模型参数中的似然性。似然函数在统计推断中有重大作用，如在最大似然估计和费雪信息之中的应用等等。“似然性”与“或然性”或“概率”意思相近，都是指某种事件发生的可能性，但是在统计学中，“似然性”和“或然性”或“概率”又有明确的区分。概率用于在已知一些参数的情况下，预测接下来的观测所得到的结果，而似然性则是用于在已知某些观测所得到的结果时，对有关事物的性质的参数进行估计。

　　在这种意义上，似然函数可以理解为条件概率的逆反。在已知某个参数B时，事件A会发生的概率写作：

$P(Amid B)={frac {P(A,B)}{P(B)}}!$

　　利用贝叶斯定理，

$P(Bmid A)={frac {P(Amid B);P(B)}{P(A)}}!$

　　因此，我们可以反过来构造表示似然性的方法：已知有事件A发生，运用似然函数 ${mathbb {L}}(Bmid A)$

$bmapsto P(Amid B=b)!$

　　注意到这里并不要求似然函数满足归一性： $sum _{{bin {mathcal {B}}}}P(Amid B=b)=1$

$L(bmid A)=alpha ;P(Amid B=b)!$

最大似然估计（maximum likelihood estimation ，MLE）

　　给定一个概率分布 $D$

但是，我们可能不知道 $heta$

一旦我们获得 $X_1, X_2,ldots, X_n$

要在数学上实现最大似然估计法，我们首先要定义似然函数:

$mbox{lik}( heta) = f_D(x_1,dots,x_n mid heta)$

并且在 $heta$

注意
- 这里的似然函数是指 $x_1,x_2,ldots,x_n$
- 最大似然估计函数不一定是惟一的，甚至不一定存在。
---------------------------------------

极大似然估计，通俗理解来说，就是利用已知的样本结果信息，反推最具有可能（最大概率）导致这些样本结果出现的模型参数值！

换句话说，极大似然估计提供了一种给定观察数据来评估模型参数的方法，即：“模型已定，参数未知”。

----------------------------------------

另外，可以看这篇文章，有比较详细的例子介绍：

深入浅出最大似然估计（Maximum Likelihood Estimation）

https://zhuanlan.zhihu.com/p/26614750
查看全文