信息论与编码章节练习(2020.06.01)

问答题
计算信道疑义度H（XY）。
答案：
问答题
若用二进制代码组传输消息，A→0,B→1，求p(0)和p(1)。
答案：
填空题
等重码可以检验（）。
答案：全部的奇数位错和部分的偶数位错
问答题
信息熵的基本性质有哪些？
答案：信息熵的基本性质包括对称性﹑确定性﹑非负性﹑扩展性﹑可加性﹑可强加性﹑递增性﹑极值性﹑上凸性。
问答题
确定下列比特流的Lempel-Ziv码：01001111100101000001010101100110000从码字流恢复原来的序列。
答案：
根据Lempel-Ziv算法列出下表：
问答题
一个（6，2）线性分组码的一致校验矩阵为（1）求hi，i=1，2，3，4，使该码的最小码距dmin≥3。（2）求该码的系统码生成矩阵Gs及其所有4个码字。
答案：（1）要使最小码距大于等于3，只需使H的任意2列线性无关，则只需第1列与其余各列均不相同。由上述关系可以求得一组或多组关...
填空题
对于一个（n，k）分组码，其最小距离为d，那么，若能纠正t个随机错误，同时能检测e（e≥t）个随机错误，则要求（）。
答案：d≥t+e+1
填空题
无失真信源编码的平均码长最小理论极限制为（）。
答案：信源熵（或H（S）/logr=Hr₃（S））
问答题
如果你在不知道今天是星期几的情况下问你的朋友“明天星期几？”则答案中含有多少信息量？如果你在已知今天是星期四的情况下提出同样的问题，则答案中你能获得多少信息量（假设已知星期一至星期日的顺序）？
答案：
问答题
简述各种熵（信源熵，条件熵，联合熵（共熵）等）的含义及其关系。
答案：