前言

自从美国科学家香农（C.E.Shannon）在1948年发表了一篇题为《通信的数学理论》的经典学术论文后，一门涉及通信技术、自动控制、信号处理、计算机技术、网络技术等众多学科的研究领域——信息理论便诞生了。信息理论是概率论和通信理论与技术相结合的边缘学科，是现代通信与信息处理技术的理论基础，研究领域已从自然科学渗透到了政治、经济、军事甚至社会科学。现代科学技术的快速发展已使人们充分认识到，作为信息科学和技术基本理论的信息论在21世纪的信息时代起着非常重要的作用。

本书不仅系统和详细地介绍了经典信息论的基本概念、基本性质和基本方法，而且从满足通信系统的基本目标出发，围绕优化和提高通信系统的三项性能指标，系统论述了解决实际问题的理论基础——香农三大编码定理的基本原理、方法和运用。全书分为两大部分共8章。第一部分的4章主要围绕信源与信息熵、信息率失真函数和信道容量三个基本概念组织内容。该部分各章内容编排如下：第1章介绍了信息的基本概念与分类，以及研究信息论的目的和意义；第2章介绍了离散信源、离散序列信源和连续信源的数学模型、信源特征以及信息熵，主要包括信息熵和互信息量的概念、性质以及最大熵定理；第3章介绍了通信信道容量的定义，离散信道和连续信道的容量计算，其中包括几个特殊的离散信道容量计算，重点对香农信道容量公式做了详细的介绍；第4章的内容包括离散信源和连续信源的信息率失真函数R（D）的基本概念、性质和计算方法。第二部分的4章根据第一部分提出的三个基本概念，引入了香农三大编码定理，详细介绍三大定理的主要内容和重要意义，以及信源编码和信道编码。该部分各章内容编排如下：第5章介绍了通信系统需要解决的三个问题，以及解决这三个问题所对应的香农编码定理的主要内容；第6章介绍了无失真信源编码定理即香农第一编码定理，包括等长编码、不等长编码，以及最优无失真信源编码——霍夫曼编码方法；第7章主要内容包括限失真信源编码的保真度准则、限失真信源编码定理即香农第二编码定理，以及常见的语音和图像编码标准；第8章介绍了提高系统可靠性的信道编码即香农第三编码定理，包括信道编码概念和准则及几种常见的信道编码方案。

信息论作为通信和电子信息专业的重要基础课程，需要学生具有高等数学、工程数学以及通信原理等基础知识的储备，作者力求以形象生动的语言对所学内容进行描述，以激发广大读者对本专业基础课的学习兴趣。

本书获得安徽省教育厅2013年度高等学校省级质量工程项目资助，是安徽省级规划教材，全书在清华大学出版社出版的《信息理论与编码》教材基础上，对部分内容进行了改正、修订和完善，降低了内容难度，取消大量的数学推导公式和计算，注重基本概念的理解，以及基本理论和方法的实际运用。本书由安徽理工大学姚善化教授任主编并负责统稿，聊城大学许恒迎、安徽大学许耀华、安徽理工大学苏静明任副主编，长沙学院的谢明华、聊城大学东昌学院的郭宗林、宁夏大学的李春树等为本书的编写修订也付出了艰辛的劳动。在此表示感谢。

信息技术的发展日新月异，新的理论和研究成果层出不穷，本书无法做到全面覆盖，加之作者的学术水平和视野有限，书中错误和疏漏之处在所难免，敬请各位读者批评指正。

编者

2014年9月