一个DMS只有三个输出符号，它们的概率为{0.5，0.4，0.1}。（1）给...

问答题 一个DMS只有三个输出符号，它们的概率为{0.5，0.4，0.1}。
（1）给出此信源的霍夫曼码并确定编码效率。
（2）每次考虑两个符号时，给出此信源的霍夫曼码并确定编码效率。
（3）每次考虑三个符号时，给出此信源的霍夫曼码并确定编码效率。

1.问答题考虑一个信源概率为{0.35，0.20，0.15，0.15，0.10，0.10，0.05，0.05}的DMS。给出此信源的霍夫曼码。

依题意，由霍夫曼编码的规则，得：

2.问答题 考虑一个信源的概率为{0.35，0.25，0.20，0.15，0.05}的DMS。
（1）给出此信源的霍夫曼码。
（2）计算出这些码子的平均码长。
（3）这个码的效率η是多少？

3.问答题 计算概率分布函数为的均匀分布随机变量X的微分熵H（X）。画出H（X）相对于参数a（0.1〈a〈10）的平面图，并对结果进行评论。

根据得到的结果可以画出相应的平面图，由图可以看到随着a的增加，即p（x）的减小，微分熵H（X）相应的增加。

4.问答题 考虑一个只取整数值的随机变量X，满足，其中。求熵H（X）。

5.问答题考虑另一个几何分布的随机变量X，满足P（Xi）=P（1-P）^i-1，i=1，2，3，…，这个信源的平均自信息H（X）是什么？

6.问答题有一个信源X，它有无穷多个可能的输出，它们出现的概率为P（Xi）=2^i-1，i=1，2，3，….，这个信源的平均自信息H（X）是什么？

7.问答题证明I（X，Y）≥0在什么条件下等号成立？

当和相互独立时等号成立。

8.问答题证明不等式lnx≤x-1。画出曲线y₁=lnx和y₂=x-1的平面图以表明上述不等式的正确性。

证明：

绘制图形说明如下，可以很明确说明上述不等式的正确性。

9.问答题证明一个离散信源在它的输出符号等概率的情况下其熵达到最大值。

10.问答题考虑一个信源概率为{0.30，0.25，0.20，0.15，0.10}的DMS。求信源熵H（X）。

故得其信源熵H(X)为2.228bit。