一、 参考书《数据压缩导论(第4版)》 Page 66
2.利用程序huff_enc和huff_dec进行以下操作(在每种情况下,利用由被压缩图像生成的码本)。
(a)对Sena,Sensin和Omaha图像进行编码。
文件名 | 源文件大小(kb) | 压缩后大小(kb) | 压缩比 |
Sena | 64 | 57 | 89.06% |
OMAHA | 64 | 58 | 90.63% |
SINAN | 64 | 61 | 95.31% |
4.一个信源从符号集A={a1,a2,a3,a4,a5}中选择字母,概率为P(a1)=0.15,P(a2)=0.04,P(a3)=0.26,P(a4)=0.05,P(a5)=0.50
(a)计算这个信源的熵。(b)求这个信源的霍夫曼码。(c)求(b)中代码的平均长度及其冗余度。
解:
(a). H=0.15*0.41+0.04*0.186+0.26*0.505+0.05*0.216+0.50*0.5=1.82(bits)
(b). 霍夫曼码如下表所示:
符号 | 编码 |
a1 | 000 |
a2 | 0011 |
a3 | 01 |
a4 | 0010 |
a5 | 1 |
(c).
平均长度L=3*0.15+4*0.04+2*0.26+4*0.05+1*0.5=1.83(bits/symbol)
所以 冗余度=L-H=0.01
5.一个符号集A={a1,a2,a3,a4},其概率为P(a1)=0.1,P(a2)=0.3,P(a3)=0.25,P(a4)=0.35,使用以下 过程找出一种霍夫曼码:
(a)本章概述的第一种过程;
(b)最小方差过程。解释这两种霍夫曼码的区别。
解:
(a).
<1>:写出所有符号的概率;对所有符号按其概率从小到大排序;
<2>:在最小的的码字前加‘0’,在第二小的码字前加‘1’;
<3>:对划分得到的两个子集递归编码,直到每个集合不能被再划分;
得下表:
符号 | 编码 |
a1 | 000 |
a2 | 01 |
a3 | 001 |
a4 | 1 |
(b).
同(a)的算法,只是选择方差小的进行编码,所以编码为:
符号 | 编码 |
a1 | 00 |
a2 | 01 |
a3 | 10 |
a4 | 11 |
平均码长:L=2*0.1+2*0.3+2*0.25+2*0.35=2
由第一种过程方差得S2=0.1(3-2)2+0.3(2-2)2+0.25(3-2)2+0.35(1-2)2 =0.70
由第二种过程方差得:S2=0.1(2-2)2+0.3(2-2)2+0.25(2-2)2+0.35(2-2)2=0
所以,最小方差树是第二种。
二、参考书《数据压缩导论(第4版)》Page 30
6.在本书配套的数据中有几个图像和语音文件。
(a) 编写一段程序,计算其中一些图像和语音文件的一阶熵。
(b) 选择一个图像文件,计算其二阶熵。试解释一阶熵与二阶熵的差别。
(c) 对于(b)中所有的图像文件,计算其相邻像素之差的熵,试解释你的发现。
解:
(a).
图像文件的一阶熵:
EARTH.IMG是4.770801
OMAHA.IMG是6.942426
SENA.IMG是6.834299
SENSIN.IMG是7.317944
音频文件的一阶熵:
GABE.RAW是7.116338
BERK.RAW是7.151537
(b).
音频文件BERK.RAW的二阶熵是6.705169
结合(a)发现,一阶熵和二阶熵的差别二阶熵明显比一阶熵小很多。
(c).
音频文件 BERK.RAW的差熵是8.978236
从结果中可以看出,音频文件的差分熵比一阶熵和二阶熵都要大。