考虑一个信源的概率为{0.35，0.25，0.20，0.15，0.05}的D...

问答题 考虑一个信源的概率为{0.35，0.25，0.20，0.15，0.05}的DMS。
（1）给出此信源的霍夫曼码。
（2）计算出这些码子的平均码长。
（3）这个码的效率η是多少？

1.问答题 计算概率分布函数为的均匀分布随机变量X的微分熵H（X）。画出H（X）相对于参数a（0.1〈a〈10）的平面图，并对结果进行评论。

根据得到的结果可以画出相应的平面图，由图可以看到随着a的增加，即p（x）的减小，微分熵H（X）相应的增加。

2.问答题 考虑一个只取整数值的随机变量X，满足，其中。求熵H（X）。

3.问答题考虑另一个几何分布的随机变量X，满足P（Xi）=P（1-P）^i-1，i=1，2，3，…，这个信源的平均自信息H（X）是什么？

4.问答题有一个信源X，它有无穷多个可能的输出，它们出现的概率为P（Xi）=2^i-1，i=1，2，3，….，这个信源的平均自信息H（X）是什么？

5.问答题证明I（X，Y）≥0在什么条件下等号成立？

当和相互独立时等号成立。

6.问答题证明不等式lnx≤x-1。画出曲线y₁=lnx和y₂=x-1的平面图以表明上述不等式的正确性。

证明：

绘制图形说明如下，可以很明确说明上述不等式的正确性。

7.问答题证明一个离散信源在它的输出符号等概率的情况下其熵达到最大值。

8.问答题考虑一个信源概率为{0.30，0.25，0.20，0.15，0.10}的DMS。求信源熵H（X）。

故得其信源熵H(X)为2.228bit。

9.问答题 有一个二元对称信道，其信道矩阵为。设该信源以1500bit/s的速度传输输入符号。现有一消息序列共有14000个二元符号，并设p（0）=p（1）=1/2，问从信息传输的角度来考虑，10秒钟内能否将这消息序列无失真地传递完？

10.问答题 设二元对称信道的传递矩阵为
（1）若；
（2）求该信道的信道容量及其达到信道容量时的输入概率分布。