问答题
设离散无记忆信源S其符号集A={a1,a2,...,aq},知其相应的概率分别为(P1,P2,...,Pq)。设另一离散无记忆信源S′,其符号集为S信源符号集的两倍,A′={ai,i=1,2,...,2q},并且各符号的概率分布满足:
试写出信源S′的信息熵与信源S的信息熵的关系。
您可能感兴趣的试卷
你可能感兴趣的试题
3.问答题
其发出的消息为(202120130213001203210110321010021032011223210),求
(1)此消息的自信息是多少?
(2)在此消息中平均每个符号携带的信息量是多少?
4.问答题居住某地区的女孩中有25%是大学生,在女大学生中有75%是身高1.6米以上的,而女孩中身高1.6米以上的占总数一半。假如我们得知“身高1.6米以上的某女孩是大学生”的消息,问获得多少信息量?
5.问答题如果你在不知道今天是星期几的情况下问你的朋友“明天星期几?”则答案中含有多少信息量?如果你在已知今天是星期四的情况下提出同样的问题,则答案中你能获得多少信息量(假设已知星期一至星期日的顺序)?
最新试题
下面哪个码组是惟一可译码?()
题型:单项选择题
对于有噪无损信道,以下说法正确的是()。
题型:单项选择题
下列属于熵的性质的是()。
题型:多项选择题
对于随机变量X与Y之间平均互信息的非负性,以下说法正确的是()。
题型:单项选择题
当信源概率分布p(x)固定时,平均互信息I(X;Y)是信道转移概率p(y/x)的()函数。
题型:单项选择题
关于平均互信息I(X;Y),下列说法正确的有()。
题型:多项选择题
高斯分布连续信源的差熵,以下说法正确的是()。
题型:单项选择题
对于差熵,以下说法正确的是()。
题型:单项选择题
若X、Y、Z组成一个马尔可夫链,则下列表达式正确的是()。
题型:多项选择题
下列关于高斯加性信道的信道容量的陈述正确的是()。
题型:多项选择题