概述：
信息使用来消除不确定性的东西
信息不等于消息，消息只是信息的载体
度量：
信息的大小是由信息消除的不确定性的大小决定的
中国男子乒乓球队获得冠军与中国男子足球队获得冠军的信息量完全不同
事件1的不确定性为I(p1), p1为事件1的先验概率
信息A消除的不确定性为I(p2)
则获取信息A后事件1的不确定性为I(p1) - I(p2)，可以见得，当A的不确定性为0之后，事件A就确定下来了
I的性质:
非负性 信息量为0表示某事物已经确定下来了，不可能比0小
单调递减 因为当发生某事的概率越大，其相对应的不确定性越小
两个确定的函数值I(1) = 0 I(0) = +∞
两个独立事件的联合信息量等与他们各自的信息量之和
信息量的表示:
现在使用下面的公式表示信息量
单位：
以2为底 - bit
以e为底- 奈特
以10为底 - 哈特
术语解释:
先验概率:某事件在无任何附加条件下发生的概率， 如丢硬币，其先验概率为0.5