设两连续随机变量X和Y，它们的联合概率密度是均值为零，协方差矩阵为C的正态分布，，在下列几种情况下，计算I(X;Y)：
（1）ρ＝1；
（2）ρ＝0；
（3）ρ＝－1。

给定语声样值X的概率密度为，求H_C(X)，并证明它小于同样方差的正态变量的微分熵。

设有一个信源，它产生0、1序列的消息。它在任意时间而且不论以前发生过什么符号，均按P（0）=0.4，P（1）=0.6概率发出符号。
（1）试问这个信源是否平稳的？
（2）试计算
（3）试计算H(X⁴)并写出X⁴信源中可能有的所有符号。

（1）为了使电视图像获得良好的清晰度和规定的适当的对比度，需要用5×10⁵个像素和10个不同亮度电平，设每秒要传送30帧图像，所有像素是独立变化的，且所有亮度电平等概率出现，求传送此图像所需的信息率（bit/s）。
（2）设某彩电系统，除了满足对于黑白电视系统的上述要求外，还必须有30个不同的色彩度，试证明传输这彩色系统的信息率要比黑白系统的信息率大约2.5倍。

为了传输一个由字母A、B、C、D组成的符号集，把每个字母编码成两个二元码脉冲序列，以00代表A，01代表B，10代表C，11代表D。每个二元码脉冲宽度为5ms。
（1） 不同字母等概率出现时，计算传输的平均信息速率？
（2） 若每个字母出现的概率分别为p_A=1/5，p_B=1/4，p_C=1/4，p_D=3/10，试计算传输的平均信息速率？

有一信源输出X∈{0,1,2}，其概率为p₀=1/4，p₁=1/4，p₂=1/2。设计两个独立实验去观察它，其结果为Y₁∈{0,1}和Y₂∈{0,1}。已知条件概率为

求：
1) I(X;Y₁)和I(X;Y₂)，并判断哪一个实验好些。
2) I(X;Y₁,Y₂)，并计算做Y₁和Y₂两个实验比做Y₁或Y₂中的一个实验各可多得多少关于X的信息。
3) I(X;Y₁/Y₂)和I(X;Y₂/Y₁)，并解释它们的含义。

设离散无记忆信源，其发出的消息为（202120130213001203210110321010021032011223210），求
（1）求每个符号的自信息量；
（2）若信源发出一消息符号序列为(202 120 130 213 001 203 210 110 321 010 021 032 011 223 210)，求该消息序列的自信息量及平均每个符号携带的信息量。

将下表所列的某六进制信源进行二进制编码，试问：

（1）这些码中哪些是唯一可译码？ 
（2）哪些码是非延长码？ 
（3）对所有唯一可译码求出其平均码长和编译效率。