信息熵怎么理解

信息熵是计算机概念中的一种 。可以理解成某种特定信息的出现概率(离散随机事件的出现概率) 。一个系统越是有序,信息熵就越低;反之,一个系统越是混乱,信息熵就越高 。
【信息熵怎么理解】信息熵也可以说是系统有序化程度的一个度量 。信息的基本作用就是消除人们对事物了解的不确定性 。美国信息论创始人香农发现任何信息都存在冗余,冗余的大小与信息的每一个符号出现的概率和理想的形态有关,多数粒子组合之后,在它似像非像的形态上押上有价值的数码,那一定是给一个博弈研究者长期迷惑的问题提供了一个负熵论据,这种单相思占优的形态以及信息

相关经验推荐