全概率公式和贝叶斯准则

完备事件组

设 Ω 为试验E的样本空间，B₁, B₂, …, B_n 为E的一组事件。若

B_i ∩ B_j = Φ (i ≠ j 且 i, j =1, 2, …n)

B₁ U B₂ U … U B_n = Ω

则称B₁, B₂, …, B_n 为样本空间 Ω 的完备事件组的一个划分。

 注：上图就是对一个样本空间的划分且每个划分单元两两不相容。

全概率的概念

设A₁，A₂，…，A_n 是一组互不相容的事件，形成样本空间的一个分割(每个试验结果必使其中一个事件发生).

又假定对每个i，P(A_i) > 0.则对任何事件B，下列公式成立

P(B) = P(A₁ ∩ B) +  P(A₂ ∩ B) + … +  P(A_n ∩ B)

        = P(A₁)P(B|A₁) + … + P(A_n)P(B|A_n)

 上图解释：

 上面这n中因素都可以导致事件B发生，所以事件B发生的可能性为 P(A₁)P(B|A₁) + … + P(A_n)P(B|A_n)，这又叫正向概率

贝叶斯公式

 

 对上图稍加改变，就成了我们的贝叶斯公式。换句话说，就是已知结果，求那个因素导致其发生的概率。

贝叶斯概念

设A₁，A₂，…，A_n 是一组互不相容的事件，形成样本空间的一个分割(每个试验结果必使其中一个事件发生).

又假定对每个i，P(A_i) > 0.则对任何事件B

贝叶斯是用来进行因果推。有许多“原因”可以造成某一个结果。现在假设我们观察到了某一个结果，希望推断造

成这个结果的原因。现在设事件A₁，A₂，…，A_n 是原因，B代表由原因引起的结果。P(B|A_i) 表示在因果模型中

由“原因”A_i造成结果B出现的概率。

当观察结果 B 的时候，我们希望反推结果 B 是由原因 A_i 造成的概率 P( A_i | B ).  P( A_i | B )为由于代表新近得到

的信息B之后A_i出现的概率，称之为后验概率，而原来的P(A_i)就称为先验概率。