理论教育 熵与信息之间的深刻联系

熵与信息之间的深刻联系

时间:2023-09-29 理论教育 版权反馈
【摘要】:事实上,我们的世界和这个宇宙充满了信息。我们看到信息和熵定律之间存在着深刻的联系:式(3.4)和式(3.5)在本质上都是统计性的,也都是以对数形式呈现。这正是熵和信息之间的基本联系,即信息和熵可以简单地转换。换句话说,只能通过增加系统的熵来提供或传输信息(负熵源)。例如,没电的电池(最大熵)不能用于提供信息。

熵与信息之间的深刻联系

事实上,我们的世界和这个宇宙充满了信息。那么有人会问:信息和科学之间有什么联系?换句话说,如果没有一个物理量表示信息,那么信息就很难得到应用,也无法与科学联系起来!

热力学第二定律中最有趣的定律之一就是熵定律,它是由玻尔兹曼提出的,即

式中:k为玻尔兹曼常数;ln为自然对数;N为可分辨状态的总数。

鉴于信息测量(以位为单位)由下式给出:

式中:p为一个可能状态的概率。

我们看到信息和熵定律之间存在着深刻的联系:式(3.4)和式(3.5)在本质上都是统计性的,也都是以对数形式呈现。很明显,每一点的信息量都与熵量相关联。换句话说,每一条信息都相当于一定量的熵,而熵的概念在科学上已经被广泛接受。

现在让我们证明信息确实可以转换成熵。例如,给定一个非孤立的物理系统,其中复杂性结构中的等概率已经建立。我们进一步假设该系统有N个可能的结果,并已简化为M个状态。那么,N和M等概率状态的熵值可以分别写为

式中:N>M;k为玻尔兹曼常数。

为此我们看到(www.daowen.com)

因为它是一个非孤立的系统,当且仅当大量的外部信息被引入到系统中时,它的熵可以减少,则

于是,式(3.9)可以改写为

因此,这个熵减少过程需要一定数量的信息,并且所需要的信息量与熵的减少成正比。这正是熵和信息之间的基本联系,即信息和熵可以简单地转换。

此外,如果将整个系统作为孤立系统来考虑,参考热力学第二定律可以看到,系统内的任何进一步演变,其熵要么增加、要么保持不变,即

熵的任何进一步增量1SΔ都是由于0SΔ或IΔ的作用,或者两者共同的作用。虽然原则上可以区分0SΔ和IΔ的变化,但是在某些情况下很难进行区分。我们进一步注意到,由于(孤立的)系统不受任何外部来源的影响,即00SΔ=,信息的变化是负的或减少的,即

由于假设初始熵S0为最大值(等可能的情形),因此0IΔ≤是由于系统熵的增加(10SΔ≥),信息的减少是必然的。换句话说,只能通过增加系统的熵来提供或传输信息(负熵源)。

然而,如果初始熵S0处于最大状态,那么0IΔ=,系统不能作为负熵源。例如,没电的电池(最大熵)不能用于提供信息。这说明熵和信息实际上可以互换或简单交易,但是代价是需要熵的外部来源,即

需要强调的是,这种关系是信息与科学之间最有趣的联系之一;否则,信息和物理之间就不会有任何直接关联。

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈