【论文 期望】

前置

（主要from2013年胡渊铭的论文《浅析信息学竞赛中概率论的基础与应用》

概率

• 什么是概率？ 概率大的事情发生的可能性就大，因此概率就是对事件发生的可能性的度量

• 概率空间

  竞赛中用到的初等概率论有三个重要成分样本空间(Omega),事件集合(F)和概率测度(P) 在竞赛中往往可以认为(omega)的每个子集都是一个事件 所有的事件集合记为(F)((F)是集合的集合) 概率测度(P)是事件集合到实数的一个函数，但需要满足下三条概率公理:
  (1)对于任意的事件(A)，有(P(A)ge 0)(非负性)
  (2)(P(Omega)=1)(规范性)
  (3)对于事件(A)和(B),若(Acap B=phi)(即(A)和(B)互斥)，有(P(Acup B)=P(A)+P(B))(可加性)
  我们称符合要求的三元组((Omega,F,P))为概率空间，eg:随机掷一个均匀的骰子，考虑其向上的面，我们有样本空间(Omega={1,2,3,4,5,6}),"奇数向上“的事件({1,3,5})，事件集合(F)为(Omega)的幂集(所有子集的集合)，概率测度(P(A)=frac{|A|}6)

• 条件概率

  eg:(alpha)大学的学生中有(99\%)是男生，(eta)大学则有(99\%)是女生．假设两个学校的人数一样多，我们在两所学校中随机的选出一个学生，他（她）的性别是男性的概率有多大？

  这个问题显然是古典概型的问理，不难得出男生在所有学生中占(50\%) ,所以选出男生的概率当然是$ 50%$．

  如果我们与选出的学生进行交谈以后得知他（她 〕 是。(alpha)大学的．那么这个概率显然变成(99\%)．由此可见，当我们得到了更多的信息以后，事件的概率是会改变的

  记己知事件(B)发生的情况下，事件(A)发生的(条件)概率是(P(A|B)) ．设选出的人是$ alpha(大学的学生这个事件为)U_1(,) eta(大学为)U_2$，选出的学生是男生的事件为 (S_1) ．女生为(S_2)．在上面的这个例子中．我们可以写作(P(S_1|U_1)=99\%)

  注意，很多初学者在理解这个问题的时候．总是有一个"先后性"的枷锁．认为事件(B)一定先于事件(A)发生．这在某些情况下是不妥的．事件只是样本空间的某个子集,并没有时间这个属性,本例中选择学生是一次性完成的虽然在某些 情况下两个事件之间确实有可能有明显的时间先后关系,如复习以后考试通过的概率和不复习考试通过的概率明显是不一样的.

  计算条件概率公式：(P(A|B)=frac{P(AB)}{P(B)}) 在研究概率问题时,我们常常把(A∩B)写成(AB),或者(A,B).所以,(P(Acap B)),(P(AB),P(A,B))是一样的

  其实在考虑条件概率的时候,我们是把事件B看做了新的样本空间,由于事件和样本空间都是集合(别忘了同时样本空间本身也是一个事件)这样做是没有 问题的.新的概率测度往往被称为条件概率条件概率公式实质上揭示了两个样本空间上的概率测度的关系

• 全概率公式

  如果$ B_1,B_2,B_3 ,.., B_n (是概率空间的一个划分,那么有:) P(A)=sum limits_k P(A|B_k)P(B_k) $
  刚才我们在得出男生在所有学生中占(50\%)这个结论的时候,实际上已经用到了全概率公式了:$ P(S_1)=P(S_1|U_1)P(U_1) + P(S_1|U_2) = 99% imes 55%+1% imes 50% =50% $

随机变量与期望

• 随机变量的定义 ...

• 随机变量的期望

  对于一个随机变量，定义其期望：

  (E[X]=sum limits_omega P(omega)X(omega)=sum limits_omega P(X=x))

  这里,(X=x)表示的是一个事件,等价于集合({ omega|omega inOmega,X(omega)=x })前一个式子是从输入(样本空间)的角度入手的定义,后一个式子则是从不同的输出入手,将样本空间进行了划分(将输出相同的输入看成一个整体即将不同的输出值按概率加权后求和

  由于对于样本空间的某些元素,随机变量的输出值很可能是相同的,有时我们就可以不从样本空间的角度去考虑随机变量,而是直接考虑随机变量取某个特定的值”这个事件.不过仍然需要注意的是,样本空间和概率测度是随机变量的基石,如果发现问题从期望这个高层无法解决,我们就需要从底层入手了后面的几个涉及期望的性质的证明就是从概率空间入手的,没有概率空间我们也没有办法证明两个随机变量的独立性

• 随机变量的独立性与乘积的期望

  ......

• 期望的线性性

  线性性(可加性)是期望的性质中重要的一项.不管两个随机变量(X_1)和(X_2)是否独立 总有:

  (E[alpha X_1 +eta X_2]=alpha E[X_1]+eta E[X_2])

  这个性质在竞赛中的应用常常表现为将一个“大”的随机变量分成“小”的随 机变量的和,那么“大”的随机变量的期望就是每个“小”的随机变量的期望的和

• 全期望公式

  首先来考虑一个类似于条件概率的问题如果给定了更多的信息,如事件(A)定发生,样本空间$Omega (上的随机变量)X$会出现何种变化?

  如果将这个受约束的随机变量记作(X|A),那么对于(forall x∈X(Omega)),我们有:(P((X|A)=x)=frac{P(X=x,A)}{P(A)})