1、信息论的创始人香农 , 被称为是“信息论之父” 。
2、人们通常将香农于1948年10月发表于《贝尔系统技术学报》上的论文《通信的数学理论》作为现代信息论研究的开端 。这一文章部分基于哈里·奈奎斯特和拉尔夫·哈特利先前的成果 。【信息论的创始人是 信息论的创始人是谁呢】
3、熵度量的是消息中所含的信息量,其中去除了由消息的固有结构所决定的部分,比如,语言结构的冗余性以及语言中字母、词的使用频度等统计特性 。
4、信息论将信息的传递作为一种统计现象来考虑,给出了估算通信信道容量的方法 。信息传输和信息压缩是信息论研究中的两大领域 。这两个方面又由信道编码定理、信源-信道隔离定理相互联系 。