问答题
在连续信源中,根据差熵、条件差熵和联合差熵的定义,证明 (1)h(X|Y)≤h(X),当且仅当X和Y统计独立时等号成立; (2)h(X1X2...XN)≤h(X1)+h(X2)+h(XN),当且仅当X1X2...XN彼此统计独立时等式成立。
问答题 有一信源发出恒定宽度,但不同幅度的脉冲,幅度值处在a1和a2之间,此信源连至某信道,信道接收端接收脉冲的幅度y处在b1和b2之间。已知随机变量X和Y的联合概率密度函数: 试计算h(X),h(Y),h(XY)和I(X;Y)。
问答题 设一连续消息通过某放大器,该放大器输出的最大瞬时电压b,最小瞬时电压为a。若消息从放大器中输出,问放大器输出消息在每个自由度上的最大熵是多少?又放大器的带宽为F,问单位时间内输出最大信息量是多少?
问答题 设给定两随机变量X1和X2,它们的联合概率密度为: 求随机变量Y1=X1+X2的概率密度函数,并计算变量Y的熵h(Y)。