第二次作业

文件名	压缩前	压缩后	压缩比（后/前）
OMAHA	64K	58K	90.62%
sena	64K	57K	89.06%
SINAN	64K	61K	95.31%

(a)H=(-log₂0.15)*0.15+(-log₂0.04)*0.04+(-log₂0.26)*0.26+(-log₂0.05)*0.05+(-log₂0.5)*0.5

 =2.74*0.15+4.64*0.04+1.94*0.26+4.32*0.05+1*0.5

 =0.411+0.1856+0.5044+0.216+0.5

 =1.817

(b)a1,a2,a3,a4,a5这个信源的霍夫曼码为:a1=110   a2=1111  a3=10    a4=1110   a5=1

(c) 平均长度为：l=1.87   冗余度为:l-H=0.053

(a) a1,a2,a3,a4这个信源按第一个过程得到的霍夫曼码为:a1=010  a2=00  a3=011   a4=1

  (b)a1,a2,a3,a4这个信源按第二个过程得到的霍夫曼码为:a1=00   a2=10  a3=01   a4=11

      两种编码的平均长度为:l=2

     第一种的方差为:s₁²=(0.1+0.25)*(3-2)²+0.3*(2-2)²+0.35*(1-2)²=0.7

     第二种的方差为:s₂²=(0.1+0.25+0.3+0.35)*(2-2)²=0

    所以由上可知：根据最小方差过程：a1,a2,a3,a4的霍夫曼码为：a1=00   a2=10  a3=01   a4=11

(a)图像文件：EARTH的一阶熵为:4.770801       OMAHA的一阶熵为:6.942426    SENA的一阶熵为:6.834299      SENSIN的一阶熵为:7.317944

    音频文件:BERK的一阶熵为：7.151537       GABE的一阶熵为:7.116338

(b)图像文件EARTH的二阶熵为：2.568358 

          从（a）中求出的一阶熵和现在的二阶熵相比，二阶熵明显比一阶熵小很多。

（c）图像文件EARTH的差分熵为：3.962697

       从结果中可以看出，差分熵介于一阶熵和二阶熵之间，有可能差分熵更加逼近与真正的存储位数。