问答题 简述平均互信息量的定义及物理意义、疑义度及噪声熵。

问答题 简述信源熵的基本性质与定理及其理解。

问答题 简述各种熵（信源熵，条件熵，联合熵（共熵）等）的含义及其关系。