有一信源，它有六个可能的输出，其概率分布如下表所示，表中给出了对应的码A、B、C、D、E和F。

（1）求这些码中哪些是惟一可译码；
（2）求哪些码是非延长码（即时码）；
（3）求对所有惟一可译码求出其平均码长L。

设在平均功率受限高斯加性波形信道中，信道带宽为3kHz，又设（信号功率+噪声功率）/噪声功率=10dB。
（1）试计算该信道传送的最大信息率（单位时间）；
（2）若功率信噪比降为5dB，要达到相同的最大信息传输率，信道带宽应为多少？

设信道输入是连续型随机序列X1X2...XN，输出也是连续型随机序列Y1Y2...YN，信道传递概率密度为p（y|x）。试证明：
（1）当信源是无记忆时，有

（1）当信源是无记忆时，有

试证明多维连续无记忆信道的充要条件为：

试证明两连续随机变量之间的平均互信息I（X；Y）是输入随机变量X的概率密度函数p（x）的型凸函数。

N维连续型随机序列X1X2...XN，其各分量幅度分别受限为[ai，bi]。证明：当随机序列的分量各自达到均匀分布并彼此统计独立时熵最大。最大熵为：

N维连续型随机序列X1X2...XN，有概率密度p（X1X2...XN）以及证明：当随机序列的分量各自达到正态分布并彼此统计独立时熵最大。最大熵为：