第一题:
参考书《数据压缩导论(第4版)》 Page 66。2(a)(b),4,5
2、
利用程序huff_enc和huff_dec进行以下操作(在每种情况下,利用由被压缩图像生成的码本)。
(a)对Sena、Sensin和Omaha图像进行编码。
解:(a)
文件名 | 压缩前 | 压缩后 | 压缩比 |
Sena | 64K | 56.1K | 87.66% |
Sensin | 64K | 61K | 95.31% |
omaha | 64K | 57K | 89.06% |
4、
一个信源从符号集A={a1,a2,a3,a4,a5}中选择字母,概率为P(a1)=0.15,P(a2)=0.04,P(a3)=0.26,P(a4)=0.05,P(a5)=0.50。4、
(a)计算这个信源的熵。
(b)求这个信源的霍夫曼编码。
(c)求(b)中代码的平均长度及其冗余度。
解:信源a的熵的计算公式为-p(a)log2 P(a)得:
(a)该信源的熵H(A)= -0.15*log20.15-0.04*log20.04-0.26*log20.26-0.05*log20.05-0.50*log20.50
=0.15* 2.737+0.04*4.644+0.26*1.943+0.05*4.322+0.5*1
=0.411+0.186+0.505+0.216+0.5
=1.82(bits)
(b)首先由概率从小到大依次排列,然后再用霍夫曼编码规则进行编码,具体编码如下:
因此,该信源的霍夫曼编码为如下:
a1 | 001 |
a2 | 0000 |
a3 | 01 |
a4 | 0001 |
a5 | 1 |
(c)
平均长度:L=0.15*3+0.04*4+0.26*2+0.05*4+0.5*1
=0.45+0.16+0.52+0.2+0.5
=1.83(bits)
冗余度:L-H(A)=1.83-1.82=0.01(bits)
5、
一个符号集A={a1,a2,a3,a4},其概率为P(a1)=0.1,P(a2)=0.3,P(a3)=0.25,P(a4)=0.35,使用以下过程找出一种霍夫曼码:
(a)本章概述的第一种过程;
(b)最小方差过程。
解释这两种霍夫曼码的区别。
解:
(a)
第一种方法结果如下:
符号 |
码 |
a1 |
010 |
a2 |
00 |
a3 |
011 |
a4 |
1 |
第二种方法结果如下:
符号 |
码 |
a1 |
00 |
a2 |
10 |
a3 |
01 |
a4 |
11 |
第一种方法的平均码长=3*0.1+2*0.3+3*0.25+1*0.35=2(bits)
第二种方法的平均码长=2*0.1+2*0.3+2*0.25+2*0.35=2(bits)
第一种方法的平均方差=0.1(3-2)2+0.3(2-2)2+0.25(3-2)2+0.35(1-2)2=0.70(bits)
第二种方法的平均方差=0.1(2-2)2+0.3(2-2)2+0.25(2-2)2+0.35(2-2)2 =0(bits)
由上可知:两种方法的平均码长都是一样的,就由方差来决定,第二种方法方差为0bits,显然优于第一种方法,所以综上,霍夫曼编码为:a1=00,a2=10,a3=01,a4=11
第二题:
参考书《数据压缩导论(第4版)》Page 30 6
2-6. 在本书配套的数据集中有几个图像和语音文件。
(a)编写一段程序,计算其中一些图像和语音文件的一阶熵。
(b)选择一个图像文件,并计算其二阶熵。试解释一阶熵和二阶熵之间的差别。
(c)对于(b)中所用的图像文件,计算其相邻像素之差的熵。试解释你的发现。
解:
文件名 |
一阶熵 |
二阶熵 |
差阶熵 |
GABE.RAW |
7.116338 |
6.654578 |
8.978236 |
OMAHA.IMG |
6.942426 |
4.488626 |
6.286834 |
SENA.IMG |
6.834299 |
3.625204 |
3.856989 |
SENSIN.IMG |
7.317944 |
4.301673 |
4.541597 |
BERK.RAW |
7.151537 |
6.705169 |
8.976150 |
EARTH.IMG |
4.770801 |
2.568358 |
3.962697 |
由上表可知:一阶熵比二阶熵大的多,并且可以看出,大部分的差阶熵都在一阶熵和二阶熵之间,可能差阶熵更适合估计图像文件的存储!!!