1.1948年，美国数学家香农发表了题为“通信的数学原理”的论文，从而创立了信息论。
2.不可能事件的自信息量是（∞），必然事件的自信息量是（0）
3.
4.差错控制的主要方式有前向纠错方式FEC，自动请求重发ARQ方式，其他方式还有混合纠错HEC，信息反馈IRQ。
5.信息的冗余主要来自两个方面，一个是信源符号之间的相关性，一个是信源符号分布的不均匀性。
6.线性分组码中，（5，3）码的码率（信息传输率）为3/5。
7.信道编码定理：对于一个离散无记忆信道，若其信道容量为C，输入信源符号长度为L，当信息传输速率R小于C时，总可以找到一种编码方法，当L足够长时，译码的错误概率为任意小正数。
8.平均互信息是输入分布的上凸函数，是信道转移概率的下凸函数。
9.信道容量和平均错误概率无关。
和平均错误概率有关的是：信道的统计特性，译码规则，编码方式
10.简述信息与消息，信号的定义和三者的相互关系
11.最大似然译码等价于最大后验概率译码的条件是消息先验等概率
12.为提高通信系统传输消息有效性，信源编码采用的方法是压缩信源的冗余度。
13.伴随式s与传送中信道出现的错误图样e有关。
14.最小码距
两个编码之间的最小汉明距离。
15.最小码距和检错纠错能力之间的关系
16.简述在《信息论与编码》中一个通信系统包括的各主要功能模块及其作用。
17.请简述香农的三大定理内容
