切比雪夫不等式——用于异常检测，基本假设：“几乎所有”值都会“接近”平均，如果偏差大就认为异常

切比雪夫不等式

维基百科，自由的百科全书

 

 

跳到导航跳到搜索

  本文介绍的是概率论的切比雪夫不等式。关于牵涉到级数的不等式，请见“切比雪夫总和不等式”。

在概率论中，切比雪夫不等式（英语：Chebyshev's Inequality）显示了随机变量的“几乎所有”值都会“接近”平均。在20世纪30年代至40年代刊行的书中，其被称为比奈梅不等式（英语：Bienaymé Inequality）或比奈梅-切比雪夫不等式（英语：Bienaymé-Chebyshev Inequality）。切比雪夫不等式，对任何分布形状的数据都适用。可表示为：对于任意{displaystyle b>0}，有：

{displaystyle P(|X-E(X)|geqslant b)leq {frac {Var(X)}{b^{2}}}}

目录

• 1概念
• 2推论
  • 2.1测度论说法
  • 2.2概率论说法
  • 2.3改进
• 3证明
• 4参见
• 5参考来源

概念[编辑]

这个不等式以数量化这方式来描述，究竟“几乎所有”是多少，“接近”又有多接近：

• 与平均相差2个标准差以上的值，数目不多于1/4
• 与平均相差3个标准差以上的值，数目不多于1/9
• 与平均相差4个标准差以上的值，数目不多于1/16

……

• 与平均相差k个标准差以上的值，数目不多于1/k²

举例说，若一班有36个学生，而在一次考试中，平均分是80分，标准差是10分，我们便可得出结论：少于50分（与平均相差3个标准差以上）的人，数目不多于4个（=36*1/9）。
公式：{displaystyle P(mu -ksigma <X<mu +ksigma )geq 1-{frac {1}{k^{2}}}}

推论[编辑]

测度论说法[编辑]

设(X,Σ,μ)为一测度空间，f为定义在X上的广义实值可测函数。对于任意实数t > 0，

{displaystyle mu ({xin X\,:\,\,|f(x)|geq t})leq {1 over t^{2}}int _{X}f^{2}\,dmu .}

一般而言，若g是非负广义实值可测函数，在f的定义域非降，则有

{displaystyle mu ({xin X\,:\,\,f(x)geq t})leq {1 over g(t)}int _{X}gcirc f\,dmu .}

上面的陈述，可透过以|f|取代f，再取如下定义而得：

{displaystyle g(t)={egin{cases}t^{2}&{mbox{if }}tgeq 0\0&{mbox{otherwise,}}end{cases}}}

概率论说法[编辑]

设{displaystyle X}为随机变量，期望值为{displaystyle mu }，标准差为{displaystyle sigma }。对于任何实数k>0，

{displaystyle Pr(left|X-mu ight|geq ksigma )leq {frac {1}{k^{2}}}.}

改进[编辑]

一般而言，切比雪夫不等式给出的上界已无法改进。考虑下面例子：

{displaystyle Pr(X=1)=Pr(X=-1)=1/(2k^{2})}

{displaystyle Pr(X=0)=1-1/k^{2}}

这个分布的标准差{displaystyle sigma =1/k}，{displaystyle mu =0}。

对于任意分布形态的数据，根据切比雪夫不等式，至少有 {displaystyle 1-1/k^{2}} 的数据落在k个标准差之内。其中k>1，但不一定是整数。

当只求其中一边的值的时候，有Cantelli不等式：

{displaystyle Pr(X-mu geq ksigma )leq {frac {1}{1+k^{2}}}.}[1]

证明[编辑]

定义{displaystyle ~A_{t}:={xin Xmid f(x)geq t}}，设{displaystyle 1_{A_{t}}}为集{displaystyle ~A_{t}}的指标函数，有

{displaystyle 0leq g(t)1_{A_{t}}leq gcirc f\,1_{A_{t}}leq gcirc f,}

{displaystyle g(t)mu (A_{t})=int _{X}g(t)1_{A_{t}}\,dmu leq int _{A_{t}}gcirc f\,dmu leq int _{X}gcirc f\,dmu .}

又可从马尔可夫不等式直接证明：马氏不等式说明对任意随机变量Y和正数a有{displaystyle Pr(|Y|>a)leq operatorname {E} (|Y|)/a}。取{displaystyle Y=(X-mu )^{2}}及{displaystyle a=(ksigma )^{2}}。

亦可从概率论的原理和定义开始证明：

{displaystyle Pr(|X-mu |geq ksigma )=operatorname {E} (I_{|X-mu |geq ksigma })=operatorname {E} (I_{[(X-mu )/(ksigma )]^{2}geq 1})}

{displaystyle leq operatorname {E} left(left({X-mu over ksigma } ight)^{2} ight)={1 over k^{2}}{operatorname {E} ((X-mu )^{2}) over sigma ^{2}}={1 over k^{2}}.}

参见[编辑]

• 马尔可夫不等式
• 弱大数定律
• 大数定律

参考来源[编辑]

• 《基本统计学 观念与应用二版》，林惠玲 陈正仓 著
• 《应用统计学 第四版》 修订版，林惠玲 陈正仓 著