某信息源的符号集由A、B、C、D和E组成,舍每一符号独立出现,其出现概率分别为1/4,1/8,1/8,3/16,5/16。 试求: (1)该信息源符号的平均信息量; (2)要想获得最大熵该信源应满足什么条件及最大熵为多少。
(1)平均信息量: (2)获得最大熵条件为各符号独立等概; 此时最大熵为:
每个符号的平均信息量为: 该信息源的平均信息速率为:
某信源集包含32个符号,各符号等概出现,且相互统计独立。现将该信源发送的一系列符号通过一带宽为4kHz的信道进行传输,要求信道的信噪比不小于26dB。 试求: (1)信道容量; (2)无差错传输时的最高符号速率。