信息论与编码基础 实验报告及答案 (唐朝京)

实验报告配套教材：

书名：信息论与编码基础
作者：唐朝京 雷菁
出版社：电子工业出版社

实验报告概述：

实验三 一、【设计思想】 汉明码编译码 1948 年，Bell 实验室的 C.E.Shannon 发表的《通信的数学理论》，是关于现代信息理 论的奠基性论文，它的发表标志着信息与编码理论这一学科的创立。Shannon 在该文中指 出，任何一个通信信道都有确定的信道容量 C，如果通信系统所要求的传输速率 R 小于 C， 则 存 在 一 种 编 码 方 法 ， 当 码 长 n 充 分 大 并 应 用 最 大 似 然 译 码 （ MLD ， MaximumLikelihoodDecdoding）时，信息的错误概率可以达到任意小。从 Shannon 信 道编码定理可知，随着分组码的码长 n 或卷积码的约束长度 N 的增加，系统可以取得更好 的性能（即更大的保护能力或编码增益），而译码的最优算法是 MLD，MLD 算法的复杂性 随 n 或 N 的增加呈指数增加，因此当 n 或 N 较大时，MLD 在物理上是不可实现的。因此， 构造物理可实现编码方案及寻找有效译码算法一直是，信道编码理论与技术研究的中心任 务。 信息传输的可靠性是所有通信系统努力追求的首要目标。要实现高可靠性的传输，可采 用诸如增大发射功率、增加信道带宽、提高天线增益等传统方法，但这些方法往往难度比较 大，有些场合甚至无法实现。而香农信息论指出：对信息序列进行适当的编码后可以提高信 道传输的可靠性，这种编码即是信道编码。信道编码是在著名的信道编码定理指导下发展起 来的，几十年来已取得了丰硕的成果。现将信道编码定理简述如下： 每一个信道都具有确定的信道容量 C，对于任何小于 C 的信息传输速率 R，总存在一个 码长为 n，码率等于 R 的分组码，若采用最大似然译码，则其译码错误概率 Pe 满足： PE≤ Ae 其中 A 为常数，E（R ）为误差函数。 nE(R) 香农编码定理仅仅是一个存在性定理，他只是告诉我们确实存在这样的好码，但并没 有说明如何构造这样的码，但定理却为寻找这种码指明了方向。 Hamming 1915 年 2 月 11 日生于芝加哥。1937 年在芝加哥大学获得数学学士学位， 1939 年在内布拉斯加大学获得硕士学位，接着又于 1942 年在伊利诺伊大学获得博土学位， 成为一名数学专家。学成以后，他留校工作两年，然后转入肯塔基州位于俄亥俄河畔的路易 斯维尔大学任教，两年后来到洛斯阿拉莫斯国家实验室，参与了著名的曼哈顿计划。但在那 里 Hamming 也只呆了两年，就又转到贝尔实验室工作。正是在这里，Hamming 遇到了 他感兴趣和能发挥他特长的课题，也有一个适宜的工作环境，因此一干就是 30 年 (1946—1976)。