1. 联合概率(joint distribution)的链式法则
基于链式法则的 explicit formula:
p(x1:n)===p(x)p(x1)∏i=2np(xi|x1,…,xi−1)∏i=1np(xi|x1,…,xi−1)
等式左端表示联合概率分布,joint distribution,所谓联合概率表示的事件同时发生的概率,如 p(x3|x1,x2),的实际含义恰在于,事件 x1 和事件 x2 同时发生的情况下,事件 x3 发生的概率。
2. 从 chain rule 到 Markov chain
马尔科夫链需要满足马尔科夫性,也即后一事件发生的概率,仅与上一事件有关,无记忆性。对于上述的链式法则,则可进一步简化为:
p(x1:n)====p(x)p(x1)∏i=2np(xi|x1,…,xi−1)=p(x1)∏i=2np(xi|xi−1)∏i=1np(xi|x1,…,xi−1)∏i=1np(xi|xi−1)