简述各种熵（信源熵，条件熵，联合熵（共熵）等）的含义及其关系。

问答题简述各种熵（信源熵，条件熵，联合熵（共熵）等）的含义及其关系。

1.问答题什么是自信息量？

2.问答题简述随机事件的不确定度和它的自信息量之间的关系及区别，单符号离散信源的数学模型，自信息量、条件自信息量、联合自信息量的含义。

3.问答题通信系统的性能指标有哪些？

主要是有效性，可靠性，安全性和经济性。

4.问答题简述通信系统的物理模型（主要框图），各单元（方框）的主要功能及要解决的主要问题。

5.问答题简述信息论的起源、历史与发展。

6.问答题简述狭义信息论、广义信息论、一般信息论研究的领域。

7.问答题简述信息的特征。

8.问答题简述消息、信号、信息的含义、定义及区别。

9.问答题对输入数据流000010110011100001001101111分别用LZ-77算法、LZ-78算法，LZW算法、K-Y算法进行编码，并计算各种方法的压缩率。

10.问答题 设有两个信源X和Y如下：

（1）分别用霍夫曼码编成二元变长惟一可译码，并计算其编码效率；
（2）分别用香农编码法编成二元变长惟一可译码，并计算编码效率；
（3）分别用费诺编码方法编成二元变长惟一可译码，并计算编码效率；
（4）从X、Y两种不同信源来比较这三种编码方法的优缺点。