问答题
计算概率分布函数为的均匀分布随机变量X的微分熵H(X)。画出H(X)相对于参数a(0.1〈a〈10)的平面图,并对结果进行评论。
根据得到的结果可以画出相应的平面图,由图可以看到随着a的增加,即p(x)的减小,微分熵H(X)相应的增加。
问答题 考虑一个只取整数值的随机变量X,满足,其中。求熵H(X)。
问答题 考虑另一个几何分布的随机变量X,满足P(Xi)=P(1-P)i-1,i=1,2,3,…,这个信源的平均自信息H(X)是什么?
问答题 有一个信源X,它有无穷多个可能的输出,它们出现的概率为P(Xi)=2i-1,i=1,2,3,….,这个信源的平均自信息H(X)是什么?