本节将展示信息与熵之间的关系。我们获得的任何信息都不是免费的,需要由一个外部源支付对应的代价——这个外部源熵不断减少。如热力学第二定律所述,当我们考虑整个孤立系统(包括一个信息源)时,在整个系统内的任何演变均会使得熵随时间增加:
我们看到,熵ΔS′的任何进一步增加可能是由于ΔS0或ΔI,或两者兼而有之。虽然,原则上可以将ΔS0和ΔI的变化分开,但是在某些情况下,我们很难区分ΔS0和ΔI引起的变化。
值得注意的是,如果孤立子空间的初始熵S0对应于结构的某种复杂性,而不处于最大值状态,此时如果S0保持不变(ΔS0=0),那么在没有外部源影响的某个自由演变之后,可以从式(2.14)中得到
由于ΔS0=0,参考式(2.14),信息的变化量ΔI是负值,即信息量在减少。其原因是,当我们对整个子空间的复杂性一无所知时,熵S0处于极大值(等概率的情况)。因此,由子空间结构提供的信息是最大值。因此,ΔI<0的原因在于,为了增加子空间的熵(ΔS0>0),需要一定程度的信息减少。换句话说,只有通过增加子空间的熵,才能提供或传输信息(负熵的来源)。然而,如果初始熵S0相对于周围熵处于最大状态,即ΔI=0,则子空间不能用作负熵的源。尽管如此,我们已经证明了熵和信息是可以相互转换的,正如下式所示:
其中,信息只能通过增加物理设备的熵来获得,并且物理设备的熵比周围更低。换句话说,一个熵增的物理系统可以作为负熵源来提供信息,反之亦然。事实上,所做的功或能量与信息有所关联,即(www.daowen.com)
式中:W为功;Q为热;T为热噪声温度(K)。
随着热噪声温度的升高,信息传输所需的能量也会增加。
对于式(2.16),信息量(以bit为单位的ΔI)或者与之等价的熵量(以J/K为单位的ΔS′)是获取一定量信息所需要的“代价”,这并不表示它就等于信息的数值。例如,一本书有Nbit(或者等量熵),但是我们有着无数本相同的书、它们都具有这Nbit相同的信息。做一个类比,一个苹果需要1美元,而1美元也可以买一个橘子或者一包纸巾。
然而,我们要思考的问题是:有没有一个相反的热力学第二定律——“我们的宇宙中孤立子空间的熵会随着时间而减少”?答案是肯定的,那就是孤立子空间包括一种能量会聚物质,如黑洞的情况。
免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。