问答题 黑白传真机的消息元只有黑色和白色两种,即X={黑,白},一般气象图上,黑色的出现概率p(黑)=0.3,白色出现的概率p(白)=0.7。 (1)假设黑白消息视为前后无关,求信源熵H(X),并画出该信源的香农线图 (2)实际上各个元素之间是有关联的,其转移概率为:P(白|白)=0.9143,P(黑|白)=0.0857,P(白|黑)=0.2,P(黑|黑)=0.8,求这个一阶马尔可夫信源的信源熵
问答题 有两个二元随机变量X和Y,它们的联合概率为: 并定义另一随机变量Z = XY(一般乘积),试计算: (1)H(X),H(Y),H(Z), H(XZ), H(YZ)和H(XYZ); (2)H(X/Y),H(Y/X),H(X/Z),H(Z/X),H(Y/Z),H(Z/Y),H(X/YZ),H(Y/XZ)和H(Z/XY); (3)I(X;Y),I(X;Z),I(Y;Z), I(X;Y/Z), I(Y;Z/X)和I(X;Z/Y)。
问答题 两个实验X和Y,X={x1 x2 x3},Y={y1 y2 y3},l联合概率为。 (1)如果有人告诉你X和Y的实验结果,你得到的平均信息量是多少? (2)如果有人告诉你Y的实验结果,你得到的平均信息量是多少? (3)在已知Y实验结果的情况下,告诉你X的实验结果,你得到的平均信息量是多少?