2.利用程序huff_enc和huff_dec进行以下操作(在每种情况下,利用由被压缩图像生成的码本)。
(a)对Sena,Sensin和Omaha图像进行编码。
解:
文件名 | 压缩前大小 | 压缩后大小 | 压缩比 |
Sence | 64k | 57k | 0.89 |
Sensin | 64k | 61k | 0.95 |
Omaha | 64k | 58k | 0.91 |
4.一个信源从符号集A={a1,a2,a3,a4,a5}中选择字母,概率为P(a1)=0.15,P(a2)=0.04,P(a3)=0.26,P(a4)=0.05,P(a5)=0.50
(a)计算这个信源的熵。
H=0.15*0.41+0.04*0.186+0.26*0.505+0.05*0.216+0.50*0.5=1.817
(b)求这个信源的霍夫曼码。
解:根据题目的意思,画出霍夫曼数,经分析的霍夫曼码如下
a1:110;a2:1111;a3:10;a4:1110;a5:0
(c)求(b)中代码的平均长度及其冗余度。
平均长度I=0.5*1+0.26*2+0.15*3+(0.04+0.05)*4=1.83
所以冗余度就是I-H=1.83-1.817=0.013
5.一个符号集A={a1,a2,a3,a4},其概率为P(a1)=0.1,P(a2)=0.3,P(a3)=0.25,P(a4)=0.35,使用以下 过程找出一种霍夫曼码:
(a)本章概述的第一种过程;
Shannon-Fano编码
算法:以空码开始;
计算所有符号的频率/概率;
对所有符号集合划分为两个概率差异最小集合;
在第一个集合的码字前加“0“,在第二个集合的码字前加”1“;
对划分得到的两个子集递归编码,直到每个集合不能被再划分;
根据以上算法,得到这个题的编码为
a1:010,a2:00;a3:01;a4:1
(b)最小方差过程。解释着两种霍夫曼码的区别。
同(a)的算法,只是选择方差小的进行编码,所以编码为
a1=00 a2=10 a3=01 a4=11
两种编码的平均长度为:l=2
所以
第一种的方差为:s12=(0.1+0.25)*(3-2)2+0.3*(2-2)2+0.35*(1-2)2=0.7
第二种的方差为:s22=(0.1+0.25+0.3+0.35)*(2-2)2=0
所以由上可知:根据最小方差过程:a1,a2,a3,a4的霍夫曼码分别为:a1=00 a2=10 a3=01 a4=11
2. 参考书《数据压缩导论(第4版)》Page 30
6。在本书配套的数据集中有几个图像和语音文件。
(a)编写一段程序,计算其中一些图像和语音文件的一阶熵。
以下的这都是一阶熵:
EARTH.IMG是4.770801
OMAHA.IMG是6.942426
SENA.IMG是6.834299
SENSIN.IMG是7.317944
GABE.RAW是7.116338
BERK.RAW是7.151537
(b)选择一个图像文件,并计算其二阶熵。试解释一阶熵和二阶熵之间的差别。
BERK.RAW的二阶熵是6.705169
由第一题和第二题的结果发现,一阶熵和二阶熵的差别是一阶熵与二阶熵的差几乎是0.5
(c)对于(b)中所用的图像文件,计算其相邻像素之差的熵。试解释你的发现。
BERK.RAW的差熵是8.978236
由一,二,三题的结果发现,差熵都比一阶熵和二阶熵都要大。