信息论与编码章节练习(2019.06.18)

若有三个离散随机变量，有如下关系：X+Y=Z，其中X和Y相互统计独立，试证明：
（1）H（X）≤H（Z），当且仅当Y是常量时等式成立；
（2）H（Y）≤H（Z），当且仅当X为常量时等式成立；
（3）H（Z）≤H（XY）≤H（X）+H（Y），当且仅当X，Y中任意一个为常量时等式成立；
（4）I（X；Z）=H（Z）−H（Y）；
（5）I（XY；Z）=H（Z）；
（6）I（X；YZ）=H（X）；
（7）I（Y；Z|X）=H（Y）；
（8）I（X；Y|Z）=H（X|Z）=H（Y|Z）。

为下列定义的多项式环构造加法和乘法表
（1）定义在GF（2）上的
（2）定义在GF（3）上的

一阶马尔可夫信源的状态图如图所示。信源X的符号集为{0，1，2}。
（1）求平稳后信源的概率分布；
（2）求信源的熵H_∞。