问答题 设信源通过一干扰信道,接收符号为Y={b1,b2},信道传递矩阵为,求 (1)信源X中事件a1和a2分别含有的自信息量。 (2)收到消息bj(j=1,2)后,获得的关于ai(i=1,2)的信息量。 (3)信源X和信宿Y的信息熵。 (4)信道疑义度H(X/Y)和噪声熵H(Y/X)。 (5)接收到信息Y后获得的平均互信息量。
问答题 黑白气象传真图的消息只有黑色和白色两种,即信源X={黑,白}。设黑色出现的概率为p(黑)=0.3,白色的出现概率p(白)=0.7。 (1)假设图上黑白消息出现前后没有关联,求熵H(X); (2)假设消息前后有关联,其依赖关系为p(白/白)=0.9,p(黑/白)=0.1,p(白/黑)=0.2,p(黑/黑)=0.8,求此一阶马尔可夫信源的熵H2(X); (3)分别求上述两种信源的剩余度,比较H(X)和H2(X)的大小,并说明其物理意义。
问答题 一阶马尔可夫信源的状态图如图所示。信源X的符号集为{0,1,2}。 (1)求平稳后信源的概率分布; (2)求信源的熵H∞。