信息论与编码章节练习(2020.06.01)

问答题
一个马尔可夫信源有3个符号{u1，u2，u3}，转移概率为：p（u1u1）=1/2，p（u2u1）=1/2，p（u3u1）=0，p（u1u2）=1/3，p（u2u2）=0，p（u3u2）=2/3，p（u1u3）=1/3，p（u2u3）=2/3，p（u3u3）=0，画出状态图并求出各符号稳态概率。
答案：
问答题
居住某地区的女孩子有是大学生，在女大学生中有是身高160厘米上的，而女孩子中身高160厘米以上的占总数的一半。假如我们得知“身高160厘米以上的某女孩是大学生”的消息，问获得多少信息量？
答案：
设事件A表示女大学生，事件C表示160CM以上的女孩，则问题就是求p（A〡C），

获得1.415比特/符号信息量。
问答题
如何理解Huffm an编码是最佳编码？
答案：
问答题
信源空间为：码符号为X={0，1，2}，试构造一种三元的紧致码。
答案：
问答题
考虑一个信源概率为{0.35，0.20，0.15，0.15，0.10，0.10，0.05，0.05}的DMS。给出此信源的霍夫曼码。
答案：
依题意，由霍夫曼编码的规则，得：
问答题
计算收到消息Y后获得的平均互信息量。
答案：
问答题
这是一个线性码？
答案：{00000，01010，10011，11001，10100，11110，00111，01101}
线性码的性...
问答题
设有一个信源，它产生0，1序列的信息。它在任意时间而且不论以前发生过什么符号，均按p（0）=0.4，p（1）=0.6的概率发出符号。（1）试问这个信源是否是平稳的？（2）试计算及；（3）试计算H（X4）并写出X4信源中可能有的所有符号。
答案：（1）是平稳信源。
（2）信源熵H（X）=-0.4log₂0.4-0.6log_...
填空题
按照信息的地位，可以把信息分成（）和（）。
答案：客观信息；主观信息
判断题
多用户信道的信道容量不能用一个数来代表。
答案：正确