问答题 设有一信源发出符号A和B,它们是相互独立的,并已知p(A)=1/4,p(B)=3/4。 (1)计算信源熵。 (2)若用二进制代码组传输消息,A→0,B→1,求p(0)和p(1)。 (3)该信源发出二重符号消息时,采用费诺编码,求其平均传输速率R及两个码元的概率p(0)、p(1)。 (4)该信源发出三重符号消息时,采用霍夫曼编码,求其平均传输速率R及两个码元的概率p(0)、p(1)。
问答题 一阶马尔可夫信源的状态转移图如下图所示,信源符号集为{0,1,2}。求: (1)稳态后信源的概率分布。 (2)信源熵。 (3)当p=0或p=1时信源的熵,并说明理由。
问答题 设有一信源,它产生0、1序列的消息。该信源在任意时间不论以前发生过什么消息符号,均按p(0)=0.4,p(1)=0.6的概率发出符号。 (1)这个信源是否平稳? (2)计算H(X2),H(X3/X1X2),以及。 (3)计算H(X4),并写出X4信源可能发出的所有符号。