简述离散信源和连续信源的最大熵定理。

问答题简述离散信源和连续信源的最大熵定理。

1.填空题某离散无记忆信源X，其符号个数为n，则当信源符号呈（）分布情况下，信源熵取最大值（）。

2.填空题设信道输入端的熵为H（X），输出端的熵为H（Y），该信道为无噪有损信道，则该信道的容量为（）

3.填空题如果所有码字都配置在二进制码树的叶节点，则该码字为（）码。

4.填空题差错控制的基本方式大致可以分为（）、（）和（）。

5.填空题互信息I（X；Y）与信息熵H（Y）的关系为：I（X；Y）（）（大于、小于或者等于）H（Y）。

6.填空题平均错误概率不仅与信道本身的（）特性有关，还与（）规则和（）方法有关

7.填空题设有一个离散无记忆平稳信道，其信道容量为C，只要待传送的信息传输率R（）C（大于、小于或者等于），则存在一种编码，当输入序列长度n足够大，使译码错误概率任意小。

8.填空题已知某线性分组码的最小汉明距离为3，那么这组码最多能检测出（）个码元错误，最多能纠正（）个码元错误。

9.填空题假设每个消息的发出都是等概率的，四进制脉冲所含信息量是二进制脉冲的（）倍。

10.填空题若一离散无记忆信源的信源熵H（X）等于2.5，对信源进行等长的无失真二进制编码，则编码长度至少为（）。