问答题 某离散无记忆信源符号集为，所对应的概率分别为：0.4，0.2，0.1，0.1，0.07，0.05，0.05，0.02，0.01，码符号集为{0，1，2，3}. 1）求信源的熵H（X）及信源剩余度γ； 2）对其进行四元Huffman编码； 3）求平均码长，编码效率η及编码器输出的信息传输率（码率）R.

问答题 设有一离散信道，其信道矩阵为，求 （1）最佳概率分布？ （2）当P（x1）=0.7，P（x2）=0.3时，求平均互信息I（X;Y）和信道疑义度H（X/Y）； （3）输入为等概分布时，试写出一译码规则，使平均译码错误率pE最小，并求此pE.

问答题 黑白气象传真图的消息只有黑色和白色两种，求： （1）黑色出现的概率为0.3，白色出现的概率为0.7.给出这个只有两个符号的信源X的数学模型，假设图上黑白消息出现前后没有关联，求熵X（H）； （2）假设黑白消息出现前后有关联，其依赖关系为：P（白/白）=0.9，P（黑/白）=0.1，P（白/黑）=0.2，P（黑/黑）=0.8，求其熵H2（X）.