第一次作业

1—1  数据压缩的一个基本问题是“我们要压缩什么”，对此你是怎样理解的？

              答:  所谓信号空间即被压缩对象，是指物理空间，时间区间，电池频段。也就是指某信号集合所占的空域、时域、和频域空间。信号空间的这几种形式是相互关联的，存储空间的减少也意味着传输效率的提高与占用宽带的节省，也就是说，只有采用某种方法来减少某一种信号空间，就能压缩数据。

1—2  数据压缩的另一个基本问题是“为什么进行压缩”，对此你又是怎样理解的？

              答：数据压缩能较快的传输各种信源——时间域的压缩；在现有通信干线上开通更多的并行业务——频率域的压缩；降低发射功率——能量域的压缩；紧缩数据存储容量— —空间域的压缩。这些将使社会效益、经济效益、将越来越明显，相反，若不进行数据压缩，则无论传输或存储都很难实用化。

1—6  数据压缩技术是如何分类的？

              答：数据压缩分为可逆压缩和不可逆压缩。可逆压缩也叫做无失真、无差错编码或无噪声编码。不可压缩就是失真编码。有冗余度的就可以压缩，压缩只能在一定限度内可  逆，超过此限度，必然带来失真，允许的失真越大，压缩的比例也可以越多。

3、给定符号集A={a₁,a₂,a₃,a₄},求一下条件下的一阶熵：

     (a)P(a₁)=P(a₂)=P(a₃)=P(a₄)=1/4

     (b)P(a₁)=1/2 , P(a₂)=1/4 , P(a₃)=P(a₄)=1/8

      (c)P(a₁)=0.505 , P(a₂)=1/4 , P(a₃)=1/4 , P(a₄)=0.12

        (a)解:P(a₁)=P(a₂)=P(a₃)=P(a₄)=1/4

                H=-log₂1/4*1/4*4

                  =2bit

         (b)P(a₁)=1/2 , P(a₂)=1/4 , P(a₃)=P(a₄)=1/8

                H=-log₂1/2*1/2-log₂1/4*1/4-log₂1/8*1/8*2

                  =1.75bit

         (c)P(a₁)=0.505 , P(a₂)=1/4 , P(a₃)=1/4 , P(a₄)=0.12

                H=-log₂0.505*0.505-log₂1/4*1/4*2-log₂0.12*0.12

                  =1-log₂0.505*0.505-log₂0.12*0.12(bit)

 5、考虑以下序列：

                 ATGCTTAACGTGCTTAACCTGAAGCTTCCGCTGAAGAACCTG

                 CTGAACCCGCTTAAGCTTAAGCTGAACCTTCTGAACCTGCTT

        （a）根据此序列估计个概率值，并计算这一序列的一阶、二阶、三阶和四阶熵。

             A的个数为21，T的个数为23，G的个数为16，C的个数为24.

             p(A)=1/4, p(T)=23/84, P(G)=4/21, P(C)=2/7

            一阶熵为：-log₂1/4*1/4*21-log₂23/84*23/84*23-log₂4/21*4/21*16-log₂2/7*2/7*24

                         =21/2-log₂23/84*23/84*23-log₂4/21*4/21*16-log₂2/7*2/7*24(bit)

            二阶熵为：

        （b）根据这些熵，能否推断此序列具有什么样的结构？

7、做一个实验，看看一个模型能够多么准确地描述一个信源。

        (a)编写一段程序，从包括26个字母的符号集{a,b,...,z}中随机选择字母，组成100个四字母单词，这些单词中有多少是有意义的？