理论教育 从噪声中提取信息的方法

从噪声中提取信息的方法

时间:2023-05-30 理论教育 版权反馈
【摘要】:在接收端,必须将信号和噪声区别开来,也就是区别开哪些是我们需要的信息,哪些是噪声。从传统上来讲,提高信息传输效率的一个途径就是消除噪声,即让信道尽量维持最大限度的稳定性,这样信息载体的每一次调制都可以被解读为一种“信号”,可以说,我们是通过物理通道来实现通信的。它并不试图消除噪声,而是把噪声转变为信息。

从噪声中提取信息的方法

1993年,在前往加利福尼亚州圣迭戈市北部的拉荷亚街区拜访高通公司期间,我第一次邂逅了信息论

这家公司成立于1985年。如今,你每天使用的移动设备,包括手机、上网本、苹果平板电脑亚马逊电子阅读器,都离不开该公司研发的计算机通信技术。该公司已经成长为全球无线通信技术领域的领导者,成为世界上最有价值与影响力的公司之一。2012年,其市值达到1 100亿美元,超过了英特尔公司,成为美国最有价值的微芯片制造商。但在20世纪90年代初期,它却招致了通常只有烟草公司才会引发的不满。

当我每个月为新科技杂志《福布斯ASAP》撰写文章之际,我发现有很多人一直在强烈地批评高通公司这个无线通信技术供应商。那些身居高位的高管和顾问,偶尔也有工程师和科学家,催促我去揭穿由高通公司制造的要误导整个世界的骗局。这个骗局,用他们的话说就是极其复杂且全然不切实际的数字无线通信技术。有一次我到德国做演讲,听众都是欧洲电信行业的高管。我在演讲期间讲到高通公司研发的新型通信技术将来一定会兴盛起来,一位强烈反对高通公司的人突然站起来打断我,警告我的听众不要相信我所说的“煽动性”言论。

斯坦福大学一位学识渊博的电机工程教授布鲁斯·吕西尼昂(Bruce Lusignan)告诉我,人们指责高通公司的通信系统的常见理由就是它“违背了物理学规律”。吕西尼昂在信号处理及相关领域拥有16项专利,他非常知道自己说的是什么意思。他指出,物理学规律实际上更有利于模拟传输,而不是数字传输,如果在改善固有的模拟通信系统和研发数字通信系统上投入的资金一样多,那么未来的手机通信恐怕就会采用模拟通信系统。

吕西尼昂发表的关于物理学规律的观点是正确的。模拟信号的确可以借助连续电波形式再现人声声波,但其电波的采样频率无法达到无失真还原的效果。模拟传输在传输声音方面很有效,美国手机通信服务的60%一度都是通过这个模拟传输技术实现的。

但吕西尼昂没有讲到信息规律的效应,高通公司运用的是信息规律,而不是传统的物理学规律。在我们生活的这个时代里,物理学规律具有至高无上的学术声誉,至少在非科学家人群的眼里是这样。但对于传递信息而言,物理模式不如化学模式,而化学模式又不如生物模式,比如,在一个生物体的基因组里,几千行基因代码所占的比例虽然极其微小,但其传递的信息量比物理领域的任何方式传递的信息量都要多。

我们之所以崇信物理学,是因为与生物学相比,我们对物理学的认知比较完整。我们能很好地了解太阳系的运行方式,但人体免疫系统却令我们感到困惑。我们在掌握小儿麻痹症的治疗技术之前,就知道了如何分裂一个原子。我们对物理学的认知之所以比较完整,就是因为物理学体系的信息量相对有限。人类可以让人造卫星沿着行星轨道进行绕行,可以探索火星,可以用原子弹轰炸广岛,但如何杀死一个病毒而不伤害这个病毒的携带者却更为复杂,需要的信息量也更多。请回想一下用原子弹轰炸广岛这个任务。要完成这个任务,只需要两样东西,一样是一架由螺旋桨和内燃机驱动的飞机,另一样是一颗利用5年左右的时间就制造出来的原子弹。

在通信领域,最终一锤定音的不是物理学。高通公司的制胜之道就在于超越物理学规律的束缚,转而从新型的信息科学上找出路,大力发展无线通信,克服了物理范畴上的带宽稀缺的现实。

带宽指的是信道传递数据的能力。这个信道可以是电报、无线电、电缆、光纤,也可以是隐晦难懂的“电信云”[1]。在接收端,必须将信号和噪声区别开来,也就是区别开哪些是我们需要的信息,哪些是噪声。如果要完成信号传输,有效载荷原件必须与封装分离。

英国生物学家、物理学家、神经科学家弗朗西斯·克里克(Francis Crick)提出过生物学领域的“中心法则”,即遗传信息是从脱氧核糖核酸传递给蛋白质这个信息载体的,但反向传递是无法实现的。相似地,在通信领域,通信信息是从信息源传递给接收端,反之,反向的信息传递则会构成干扰信号传输的能量场,这种具有干扰作用的能量场可以被定义为“噪声”。

从传统上来讲,提高信息传输效率的一个途径就是消除噪声,即让信道尽量维持最大限度的稳定性,这样信息载体的每一次调制都可以被解读为一种“信号”,可以说,我们是通过物理通道来实现通信的。高通公司改变了这一切。它并不试图消除噪声,而是把噪声转变为信息。我发现,掌握好噪声置换技术对于该公司的辉煌成就起到了核心作用,也体现了信息论的观点。

在拜访高通公司之前,我在技术方面的热情主要是钻研硅的物理性能。早在1989年,我就写了一本书,名为《微观世界:科学与技术的量子时代》(Microcosm: The Quantum Era in Science and Technology)。该书运用物理学去认识新兴的半导体工业的发展动态。我喜欢英国诗人威廉·布莱克(William Blake)“从一粒沙子看世界”的眼界,因为我当时觉得自己从微芯片中看到了世界。一个用不透明的硅制成的微芯片,竟然可以承载庞大而精密的集成电路,我认为微芯片将把整个世界联系在一起。我相信这种以硅为原材料的光纤将会带来空前丰富的带宽。硅神秘的物理特性为一个新产业奠定了基础,这个产业将不断地涌现令人惊讶的创新成果。

在光纤技术先驱威尔·希克斯(Will Hicks)和IBM公司工程师保罗·格林(Paul Green)的鼓舞下,我在1991年就提出,这种由光与玻璃组成的新型传输材料的带宽是铜线带宽的数百万倍,最终会带来通信业的革命,也会开创一段新的经济史。之前,人与人之间主要是经由狭窄的海洋贸易通道和充满噪声的铜质电缆联系在一起的,而现在却是由无线带宽的光纤联系在一起,信息传输将更加顺畅。光纤网络将会催生数字时代的“丰饶经济学”(the economics of abundance),我们能够通过一个成本几乎可以忽略不计的工具来创造不计其数的资源,用户将面临无限的选择,一套崭新的商业模式也将随之崛起。在数字化世界里,匮乏是不存在的。我将这种现象称为“光纤球”(fi bersphere),我认为这一成就主要得益于量子物理学及其在工程学领域的衍生学科—固体化学的发展。

然而,我很快就认识到,要想给人们提供移动通信服务,光纤球还离不开大气,就像你的肺离不开空气一样。而在大气中,带宽的丰富性要低很多。比如,在圣迭戈市,如果要在大气中传递光子信号,肯定是太阳占据上风,你不可能争得过太阳,太阳风的作用就相当于超级宽带,因此,借助大气传递信号就面临着很大的限制。这种带宽的稀缺性成为信息论的催化剂,而信息论又为无线通信奠定了基础。

在人们都警告我提防高通公司时,我几乎不了解该公司和信息论,但我想我应该在帕洛阿尔托市的某个物理学教授将高通公司高管告上法庭之前去拜访一下该公司总部。[2]

坐在一个能够俯瞰新总部大楼天井的小桌子旁,该公司的创始人安德鲁·维特比(Andrew Viterbi)和欧文·雅各布斯(Irwin Jacobs)竭力向我解释他们那富有争议的通信技术。雅各布斯瘦瘦的、高高的,说起话来语调非常温和。他用通俗易懂的类比来描述高通公司通信解决方案的优点。维特比个头稍矮,大腹便便,语气坚定地向我解释信息论里面具有决定作用的要点。他们二人之间的反差很明显。所以,那次谈话之后不到10年,维特比就离开了高通公司,我对此并不感到惊讶。

与我见过的大多数高管相比,他们二人都具有他人无可匹敌的知识,即便我在硅谷遇到的那些高管也难以望其项背。雅各布斯在向我解释其通信系统时说得比较清楚明确,我在为《福布斯》杂志撰文时引用得也比较多。他后来向我解释道,他曾经在20世纪50年代中期前往麻省理工学院求学,学习的是物理学和电磁工程学。但他了解了克劳德·香农的信息论之后激动不已,坚定地认为信息论将开创信息通信领域的新时代。当时,香农在10年前已发现了信息论的一些规律。雅各布斯最后便师从保罗·伊莱亚斯(Paul Elias)、罗伯特·费诺(Robert Fano)和香农学习信息论。后来,当雅各布斯成为一名教授时,他与香农的办公室在同一条走廊上。

然而,维特比向我讲述的那种深不可测的信息论激发了我的兴趣,使我在之后长达20年的时间里对香农的思想进行了深入研究,研究范围既包括通信技术,也包括生物学,最后又延伸到经济学。维特比认真地指出,高通公司在通信领域占据优势的秘诀就是它认识到了这样一个事实,即一个通信系统的容量和效率要想达到最大化,并不需要使其信道的内容最大限度地接近于免受干扰且维持信号清晰度,而是接近于模糊的白噪声。

他是什么意思呢?我绞尽脑汁也想不清楚他为什么把白噪声说成了信息载体。维特比的观点为高通公司的成功蒙上了一层神秘面纱。毕竟,根据传统通信观点,噪声会降低通信质量。所谓白噪声,是一种功率谱密度为常数的随机信号或随机过程,即此信号在各个频段上的功率是一样的。由于白光是由各种频率(颜色)的单色光混合而成,因而此信号具有平坦功率谱的性质,被称作“白色的”,此信号也因此被称作白噪声。理想的白噪声具有无限带宽,因而其能量是无限大的。(www.daowen.com)

维特比的说法不仅不符合我们已经接受的常识,而且与我交谈过的业内人士几乎都不认同他的说法。这或许可以解释为什么业内其他人都很反对高通公司。所有通信企业都在想方设法对噪声发起战争,试图彻底消除噪声以提高信噪比,提高信号强度以压制噪声。整个通信行业采用的都是TDMA(时分多址)数字传输标准,即把信号流分割为不同的时隙,每个时隙再分配给每一部分信息。

这种备受青睐的TDMA数字传输技术在欧洲尤其受欢迎。电话公司之所以喜欢这种技术,是因为它们已经利用这种技术来实现其有线通信网络的共享或多路复用,这样它们就不必去应对移动通信带来的变幻莫测的需求。由于TDMA技术下每个时隙封装一个数据包,所以,在数据传输过程中可以保证不同时隙之间互不干扰。

然而,正是这个特点使得TDMA技术成为一种比较僵化和低效的系统,因为大量的时隙没有得到利用,导致了信道容量的浪费,这就像货车空跑一样。此外,因为传统的通信技术在信道分配问题上存在排他性,即一个子信道至多可以被分配给一个用户,所以TDMA技术必须具有足够多的时隙。这就意味着需要更多的带宽来实现数据包的封装与隔离,防止遭到其他信道内部事件造成的噪声干扰。

然而,高通公司却开发出了完全不同于传统技术的CDMA(码分多址)通信技术。根据CDMA技术,不需要提高信号强度来保证远程传输的清晰度,所有通信者在说话时可以降低音量。雅各布斯将高通公司的技术方案比喻成了一个鸡尾酒会,每一对交谈者都讲着不同的语言,每个人只能听懂对方传递过来的信息,而听不懂其他人所说的话,相互之间不会产生干扰。 CDMA通信系统中,不同用户传输信息所用的信号不是靠频率不同或时隙不同来区分的,而是用各自不同的编码序列来区分,或者说,靠信号的不同波形来区分。如果从频域或时域来观察,多个CDMA信号是互相重叠的。接收端用相关接收器可以在多个CDMA信号中甄选出使用预定码型的信号,其他使用不同码型的信号因为和接收机本地产生的码型不同而不能被解调。它们的存在类似于在信道中引入了噪声和干扰,通常被称为多址干扰。

在《信息论导论:符号、信号与噪声》(An Introduction to Information Theory: Symbols, Signals & Noise)这本书中,香农在贝尔实验室工作时的亲密同事、“晶体管”(transistor)一词的发明者约翰·皮尔斯(John Pierce)从具体数字出发对这种多语言的鸡尾酒会进行了阐述。1要提高信道容量,工程师们有两个策略可以选择:他们可以提高信号的带宽或信噪比。业内大多数人都在着力提高信噪比,即提高讲话的音量以让对方听得更清楚。正如詹姆斯·格雷克(James Gleick)在其颇具权威性的历史性著作《信息》(The Information)中所评论的那样,“随便问一个工程师,如何才能在一个信道里传输更多信息,他们都知道该怎么做:提高信号功率。”2但皮尔斯在1980年论证指出,将信号带宽从4兆赫提高到8兆赫之后,信噪比不到原来的1/33。3降低信号功率并提高带宽,比在维持带宽不变的情况下提高信号功率的效果好16倍。所以,提高信号功率,或者说提高音量,既有正面作用,也有负面作用。如果只有一个人提高说话的音量,那么对方可以听得更清楚,但如果每个人都这么做,就会产生严重的噪声,最后干扰通信。

皮尔斯得出了这样的结论:“在带宽既定的情况下,如果我们想要接近香农极限[3],就必须采用类似于高斯噪声的、长而复杂的信号波作为代码的基础。”基于扩频技术的CDMA通信系统之所以能成功,其背后的原理就在于此。4这体现了维特比的真知灼见。

在CDMA技术下,数据被封包在类似于低度背景噪声的扩展码中,在传输过程中受到的其他信息干扰十分微弱。当打电话的人越来越多时,小区(一个基站发射的无线信号覆盖的区域)内的噪声也会逐渐增加。CDMA允许所有使用者同时使用小区内的全部频带,不存在TDMA那种浪费时隙的现象,也不存在那种高功率模拟传输的噪声。因此,CDMA技术能够实现信道容量最大化。在通话高峰时段,为了容纳更多用户,编码呼叫甚至可以切换到不太拥挤的相邻小区,因为所有呼叫和所有小区使用的都是同样的频带。

高通公司的成就令我十分激动,因为我的脑海中浮现出了未来无线网络无比发达的情景。我可以看到CDMA技术能够很好地满足突发性数据传输的需要,而TDMA技术下的时隙和窄频带则无法满足这类需要。 CDMA就像一个鸡尾酒会,如果每个人都用自己所选的语言柔声细语地交谈(就相当于每个数据都具有相应的编码一样),那么通信量将会实现最大化,而且小区内的其他人无法将你的对话和背景噪声区别开。但高通公司的蜂窝式手机内置一款更为强大的微芯片,能够将这些类似于噪声的编码转换成原信息数据,以实现信息传输。高通公司会直接生产蜂窝式手机,然后以合理的价格供应给用户,或者授权其他厂商生产这种手机。显然,其他因素维持不变的情况下,高通公司的战略肯定会略胜一筹。

事实上,其他因素并非维持不变,而是不断变化的,但这种变化更加有利于高通公司。在摩尔定律的世界里,计算机的计算能力的成本每两年就会下降一半。所以,那些对计算机的计算能力消耗较多、对无线频谱等物理资源消耗较少的技术所占的优势将会越来越大。 CDMA就属于这类技术。这就是彼得·德鲁克(Peter Drucker)等人预料的“信息经济”的真实意义所在。

在信息经济里,企业家利用信息科学来超越纯粹的物理学规律的限制。他们之所以能够成功,是因为信息规律具有令人惊讶的力量,这种力量有利于人类发挥创造力。信息论的核心理念就是选择自由。然而,从另一方面来讲,自由选择的空间也是有限度的,任何选择都具有“重量”,都会占据一定的空间。

对于任何一门科学而言,其效用都会受到其“信息潜能”的限制。这里所谓的“信息潜能”,指的是一门科学给人们带来的令人惊异的新观念,人们可以根据这种信息促进生产率的提高。我们往往会过高地评估物理学及物理规律对于促进技术进步的作用,原因恰恰在于物理学的信息潜能很有限,从而使得这门科学看起来是如此合理,如此具有预见能力。正如香农所指出的那样,一门科学的预见能力与其信息潜能往往成反比。

信息论超越物理学规律并非不切实际。从20世纪开始,很多蓬勃发展的经济部门都出现了这类现象。有史以来,信息超越物理规律,或者说意识超越物质,一直是经济赖以发展的动力之所在。在过去的年代里,这个超越过程不太明显,因为信息的作用主要体现在利用物理规律,而不是超越物理规律。从车轮到罗马拱门,再到美国小鹰镇(Kitty Hawk)海滩上那架飞机的脆弱机翼,人们一直在运用物理学原理来减轻物体给人类造成的负担,或控制与引导物体,或用更少的资源获得更多的收益,或者探索如何更好地发挥物质的效用。在信息时代,物理学将显得黯然失色。在20世纪90年代初期,高通公司在这方面发挥了核心作用。

听了雅各布斯拿鸡尾酒会打的那个比方之后,我暂时没有提出反对意见,但当时我还不明白维特比对我所说的话到底是什么意思,于是我返回《福布斯ASAP》杂志的办公室,下定决心要把香农的信息论论文钻研透,看看这种“白噪声”或者说“无规则噪声”以及信息传输最大化到底是怎么回事。在探索的过程中,我变成了高通公司热情的支持者。20世纪90年代,高通公司股票的表现可以说雄冠美国股市,市值在10年内增加了25倍。高通公司还促使我逐渐接受了现代信息论,这种信息论偏离传统经济学的程度,绝对不亚于CDMA通信协议偏离电话工业传统通信协议的程度。换言之,在传统经济学中,亚当·斯密及其后继者们提出了均衡理论和自发秩序原理,提出了“看不见的手”和完全竞争,提出了供给和需求理论,提出了市场机制的奖励与惩罚。而在高通公司的影响下,我逐渐偏离了这些传统的经济学理念,开始研究以非均衡和无秩序、信息和噪声为基础的新型经济学,并且认为这类新型经济学是理解人类经济发展的关键路径。

【注释】

[1]所谓电信云,指的是电信运营商为用户提供的“云服务”,电信运营商可以充分利用云计算技术对多种资源进行整合、优化、共享,构建开放的超大规模的“安全云”的资源池,全面提升安全设施服务效能和业务整合能力。—译者注

[2]帕洛阿尔托市和高通公司都在加州,加州大学的物理学教授是质疑和反对高通公司的主力军。—译者注

[3]香农极限,或称香农容量,指的是在会随机发生误码的信道上进行无差错传输的最大传输速率,是香农定理在带宽有限的信道上的一个结论。—译者注

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈