设二元对称信道的传递矩阵为 (1)若P(0)=3/4, P(1)=1/4,求H(X),H(X/Y),H(Y/X)和I(X;Y); (2)求该信道的信道容量及其达到信道容量时的输入概率分布。
有一离散无记忆信源,其输出为X∈{0,1,2},相应的概率为p0=1/4,p1=1/4,p2=1/2,设计两个独立的实验去观察它,其结果分别为Y1∈{0,1},Y2∈{0,1},已知条件概率: (1)求I(X;Y1)和I(X;Y2),并判断哪一个实验好些 (2)求I(X;Y1Y2),并计算做Y1和Y2两个实验比做Y1和Y2中的一个实验可多得多少关于X的信息 (3)求I(X;Y1|Y2)和I(X;Y2|Y1),并解释它们的含义
一阶马尔可夫信源的状态图如图所示,信源X的符号集为(0,1,2)。 (1)求信源平稳后的概率分布P(0),P(1),P(2) (2)求此信源的熵 (3)近似认为此信源为无记忆时,符号的概率分布为平稳分布。求近似信源的熵H(X)并与H∞进行比较