有一个信源X，它有无穷多个可能的输出，它们出现的概率为P（Xi）=2i-1，...

问答题有一个信源X，它有无穷多个可能的输出，它们出现的概率为P（Xi）=2^i-1，i=1，2，3，….，这个信源的平均自信息H（X）是什么？

参考答案：

您可能感兴趣的试卷

你可能感兴趣的试题

1.问答题证明I（X，Y）≥0在什么条件下等号成立？

参考答案：

当和相互独立时等号成立。

2.问答题证明不等式lnx≤x-1。画出曲线y₁=lnx和y₂=x-1的平面图以表明上述不等式的正确性。

参考答案：

证明：

绘制图形说明如下，可以很明确说明上述不等式的正确性。

3.问答题证明一个离散信源在它的输出符号等概率的情况下其熵达到最大值。

参考答案：若二元离散信源的统计特性为
P=Q=1，H（X）=-[P*log（P）+（1-P）*log（1-P）]

点击查看完整答案

4.问答题考虑一个信源概率为{0.30，0.25，0.20，0.15，0.10}的DMS。求信源熵H（X）。

参考答案：

故得其信源熵H(X)为2.228bit。

5.问答题 有一个二元对称信道，其信道矩阵为。设该信源以1500bit/s的速度传输输入符号。现有一消息序列共有14000个二元符号，并设p（0）=p（1）=1/2，问从信息传输的角度来考虑，10秒钟内能否将这消息序列无失真地传递完？

参考答案：信道容量C=1+0.98log₂0.98+0.02log₂0.02=0.85...

点击查看完整答案

6.问答题 设二元对称信道的传递矩阵为
（1）若；
（2）求该信道的信道容量及其达到信道容量时的输入概率分布。

参考答案：

7.问答题 设信源通过一干扰信道，接收符号为Y={b₁，b₂}，信道传递矩阵为，求
（1）信源X中事件a₁和a₂分别含有的自信息量。
（2）收到消息b_j（j=1，2）后，获得的关于a_i（i=1，2）的信息量。
（3）信源X和信宿Y的信息熵。
（4）信道疑义度H（X/Y）和噪声熵H（Y/X）。
（5）接收到信息Y后获得的平均互信息量。

参考答案：

8.问答题 黑白气象传真图的消息只有黑色和白色两种，即信源X={黑，白}。设黑色出现的概率为p（黑）=0.3，白色的出现概率p（白）=0.7。
（1）假设图上黑白消息出现前后没有关联，求熵H（X）；
（2）假设消息前后有关联，其依赖关系为p（白/白）=0.9，p（黑/白）=0.1，p（白/黑）=0.2，p（黑/黑）=0.8，求此一阶马尔可夫信源的熵H₂（X）；
（3）分别求上述两种信源的剩余度，比较H（X）和H₂（X）的大小，并说明其物理意义。

参考答案：（1）比特/信源符号；
（2）由各态历经定理，有，即
P（白）=p（白）p（白/白）+p（黑）p（白...

点击查看完整答案

9.问答题 一阶马尔可夫信源的状态图如图所示。信源X的符号集为{0，1，2}。
（1）求平稳后信源的概率分布；
（2）求信源的熵H_∞。

参考答案：

（1）由图得一阶马尔可夫信源的状态为s₁=0，s₂=1，s₃=2。
对应的一步转移概率矩阵为

10.问答题 设是X=X₁，X₂，...，X_N平稳离散有记忆信源，试证明：

参考答案：