【学习笔记】部分概率相关（仍在更新）

• 离散型随机变量：是一些有限或无限个 概率可列 的随机变量。

• 非离散型随机变量： 概率不一定可以列出。

对某一问题中所有可能事件，并对所有基本事件赋予一个概率的集合叫做概率空间。

一个无法再分的事件称为基本事件。

注意：基本事件不一定独立。后文证明。

下文中类似地 (X) 代表随机变量， (x) 代表函数自变量，(X(omega)) 是其在 (X) 中的值。

一个事件概率的定义： (Pr(A)=sum_{omegain A}Pr(omega))

其中 (omega) 是 基本事件。

而前文所述 随机变量 是在概率空间上的基本事件上定义的函数。(Pr(A=a)) 看作关于 (a) 的函数，其返回值是它的概率。

定义 联合分布 (Pr(X=x ext{&}Y=y))

那么独立事件 (A,B) 的定义是： (Pr(A=a ext{&}B=b)=Pr(A=a)cdot Pr(B=b))

即 二者概率不受相互之间的影响。

定义期望：

在概率空间 (G) 上离散随机变量 (X) 的期望为：

[E(X)sum_{xin X(G)}Pr(X=x)cdot x=sum_{omegain G}X(omega)Pr(omega) ]

注意到这里期望定义成了对基本事件求和的形式。

简单的理解是加权平均数。它确实是事件 (X) 的均值/期望。

也可以理解为 期望=价值*概率

而期望有几条性质很重要：

• (E(aX)=aE(X),ain ext{constant})

( ext{Proof}:E(aX)=sum_{omegain G}aX(omega) Pr(omega)=asum_{omegain G}X(omega)Pr(omega)=aE(X))

• (E(X+Y)=E(X)+E(Y))

( ext{Proof:}E(X+Y)=sum_{omegain G}(X(omega)+Y(omega))Pr(omega)=sum_{omegain G}X(omega)Pr(omega)+Y(omega)Pr(omega)=E(X+Y))

之所以对非独立事件也成立：

考虑 (X+Y) 实际上是两个事件发生的 期望 而非 概率。而 (X) 的概率即使依赖于 (Y) ,也只能对 (X) 的期望造成影响，其期望本质上是没有所谓独不独立的。

注意到这个式子本身而言是对期望而非概率的即可。(X+Y) 的期望可以从 (X,Y) 二者期望拼凑而来。

• (E(XY)=E(X)E(Y)) 对于两个独立事件成立。

( ext{Proof:}E(XY)=sum_{omegain G}(X(omega)Y(omega))Pr(omega)=sum_{xin X,yin Y}xyPr(x)Pr(y))

由独立事件的定义有：

(E(XY)=sum_{xin X,yin Y}xyPr(X=x ext{&}Y=y)=sum_{xin X}xPr(X=x)cdot sum_{yin Y}yPr(Y=y)=E(X)E(Y))