问答题
考虑一个只取整数值的随机变量X,满足,其中。求熵H(X)。
问答题 考虑另一个几何分布的随机变量X,满足P(Xi)=P(1-P)i-1,i=1,2,3,…,这个信源的平均自信息H(X)是什么?
问答题 有一个信源X,它有无穷多个可能的输出,它们出现的概率为P(Xi)=2i-1,i=1,2,3,….,这个信源的平均自信息H(X)是什么?
问答题 证明I(X,Y)≥0在什么条件下等号成立?