第一次作业

一.教材习题：

1-1数据压缩的一个基本问题是“我们要压缩什么”，对此你是怎样理解的？

答：我对数据压缩的一个基本问题是“我们要压缩什么”的理解是：数据的压缩就是对数据冗余的压缩，例如对时间的压缩，对空间的压缩，频域空间的压缩。

1-2 数据压缩的另一个基本问题是“为什么进行压缩”，对此你又是怎样理解的？

答：我对数据压缩的另一个基本问题是“为什么进行压缩”的理解是：1.数据压缩是因为数据存储空间有限 2.数据指数增长

1-3 数据压缩技术是如何分类的？

答：数据压缩技术分类：冗余度压缩（熵编码）和熵压缩，其中冗余度压缩（熵编码）又分为：统计编码   其他编码，熵压缩主要有两大类：特征抽取和量化

二.参考书《数据压缩导论第四版》 page8      1.4

1.4项目与习题：

 2-1  用你的计算机上的压缩工具来压缩不同文件。研究原文件的大小和类型对于压缩文件与原文件大小之比的影响。

 答：用计算机上的压缩工具来压缩不同文件时，如视频、文档、图片等不同类型的文件，经压缩后发现压缩文件与原文件大小之比的影响是不同的，其中影响对大的事视频、其次是文档、最后是图片。

 2-2从一本通俗杂志中摘录几段文字，并删除所有不会影响理解的文字，实现压缩。例如，在“This is the dog that belongs to my friend”中，删除is、the、that和to之后，仍然能传递相同的意思。用被删除的单词数与原文本的总单词数之比来衡量文本中的冗余度。用一本技术期刊中的文字来重复这一试验。对于摘自不同来源的文字，我们能否就其冗余度做出定量论述？

答：对于摘自不同来源的文字，我们不能就其冗余度做出定量论述，因为有的信息的有重复字、词、句等。

 三. 参考书《数据压缩导论（第4版）》Page 30     3, 5, 7(a)

2.8项目与习题：

3.给定符号集A={_a1,_a2,_a3,_a4},求以下条件的一阶熵：

(a) p(_a1)=p(_a2)=p(_a3)=p(_a4)=1/4

(b) p(_a1)=1/2,  p(_a2)=1/4,p(_a3)=p(_a4)=1/8

(c) p(_a1)=0.505,  p(_a2)=1/4,p(_a3)=1/8 ,p(_a4)=0.12

解：

由熵公式H=-p(X1)log^p(X1) -p(X2)log^p(X2)-p(X3)log^P(X3) -  ------  -P(_Xn)log^p(_Xn)知：

(a):   H(a)=-1/4*log_{2^{1/4  -1/4*log21/4  -1/4*log21/4  -1/4*log21/4}}  

 

               =1/2+1/2+1/2+1/2

               = 2(bit)

(b):   H(b)=-1/2*log_{2^{1/2  -1/4*log21/4  -1/8*log21/8  -1/8*log21/8}}  

               =1/2+1/2+3/8+3/8

               =1.75(bit)

(c):   H(c)=-0.505*log_{2^{0.505  -1/4*log21/4  -1/8*log21/8  -0.12*log20.12}}

               ~0.5`+1/2+3/8+0.37       

               =1.745(bit)

5.考虑以下序列：

ATGCTTAACGTGCTTAACCTGAAGCTTCCGCTGAAGAACCTG

CTGAACCCGCTTAAGCTGAACCTTCTGAAGCTTAACCTGCTT

 (a) 根据此序列估计各概率值，并计算这一序列的一阶熵。

 (b)  根据这些熵，能否推断此序列具有什么样的结构？

解：

     由题意可知：以上序列中总共有字母84个，其中A字母共出现21次，

      T字母共出现23次，G字母共出现16次，C字母共出现24次。

      则P(A)=21/84=1/4;P(T)=23/84;P(G)=16/84=4/21;P(C)=24/84=2/7.

    (a) 各字母的概率值如下：

       P(A)=21/84=1/4;

       P(T)=23/84;

       P(G)=16/84=4/21;

       P(C)=24/84=2/7.

      该序列的一阶熵为：-1/4*log2(1/4)-23/84*log2(23/84)-4/21*log2(4/21)-2/7*log2(2/7)=1.98

   (b)  根据这熵，能推断此序列具有的结构是：此序列共由A T G C四个字母组成，其中序列的冗余度隐含存在于非等概率的分布中之中。

      

3-7  做一个实验，看看一个模型能够多么准确地描述一个信源。

       (a)  编写一段程序，从包括26个字母的符号集{a,b,…,z}中随机选择字母，组成100个四字母单词，这些单词中有多少是有意义的？

#include<stdio.h>

#include<stdlib.h>

int main()

{    int i,j;   

for(i=1;i<100;i++)

   {   

for(j=0;j<4;j++)  

  {   

putchar(rand()%1?65+rand()%26:60+rand()%26);  

  }

   putchar(' ');   

}

  return 0;

}