第五插曲　心不在焉的智慧老人

新兴解释的局限

2012年，一所基督教大学旧金山大学根据“基督教就如Facebook一般”的思想确定招生计划的主题，其中一个标语是：“我们学校培养的总裁2 000年前就掌握了社交网络，那时候马克·扎克伯格还没出生呢。”

凡事都有对立面，我发现这才是棘手的问题。每所大学都不循常规，迅速发展。每所大学的网络也会创立自己的权力中心，它们突破地域和政治的界限，在各自的平台独立发展，成长为所谓的社会垄断者，大张旗鼓地参与到社会工程中。

这并不表明社会垄断一定会产生恶劣影响，它们同样可以带来惊人的社会福利。事实表明，天主教育人，数以亿计的贫苦大众接受了它的洗礼；天主教扶伤，不计其数的带病之人在它的治疗下痊愈；天主教定人心，多少家庭在它的影响下和睦相处；天主教慰人心灵，无数将死之人在其慰藉下得以安息。2012年，Facebook通过增设器官捐献者的滚动条目，涉足社会工程领域，目的仅仅是丰富用户的体验。通过这种方式，捐献的选择就摆在人们眼前，多数人都欣然选择了它。

权力自由聚集的问题是，你永远都不会知道由谁来继承。如果社交网络能够调动大批群众，废黜暴君，为什么就不能调节死刑或大肆屠杀呢？

中世纪时期以软弱的政府为主要特征，当时教皇拥有“至高无上”的权力。要想死后进入天堂，或者要想在天主教会任职，是需要花钱购买的，教会中更多的是伪善和犯罪，其慈善或精神使命早已被压下去了。

互联网的核心理想是相信人，只要给人一个机会，他们就会设法赢得体面的生活。我很乐意在此重申，我相信这一理想。这就是我们所拥有的一切。

事实证明，Facebook能够毫不费力地从事大量的社会工程，表明今天的互联网并不像人们所宣称的那样——是纯粹主义派的新兴体系，而是一个自上而下、具有针对性的体系。社会工程的目标并不比增加器官捐赠更加美好。前述案例虽然带来过无尽的好处，却也未曾涉及继承问题。

我们声称计算机云中正在出现一种新型人类，即人工智能，而实际上是操作“海妖服务器”的人在主导一切。

图灵机的幽默将全世界带入狂欢

如今，新闻报道都会涉及人工智能的发展：机器会向你微笑、程序可以预测人类对配偶或音乐的选择、机器人可教授小孩外语等。这一系列的故事表明，机器占用的空间越来越少，自动化程度更高，这是一种新的生命形态，我们应该将它们视为同类，而不只是工具。虽然我们有这样的结论，但是这仍不能改变我们对计算机的看法，即它们正在改变我们对生活的基本假设，其方式是具有误导性的，并且最终将给我们带来危害。

通常，完全脱离人工智能这一概念后，我们能够更加有效地阐释人工智能研究的具体细节。例如，2011年，IBM的科学家公开了一种问答机器，其设计用于参加美国的电视问答游戏节目“Jeopardy”。假定IBM已经放弃虚有其表的装潢，提出了谷歌的改进方法，并提出一种以短语为搜索单位的新型搜索引擎。正是对该项技术的构思让IBM的团队为众人认可，其效果不亚于人工智能的面世，但有一大缺陷是，这种构思未能向公众传递如何高效使用该项技术的方法。

人工智能技术的运作平台是前述程序的改进版，所述程序能够实现语言之间的转换。算法创新至关重要，其重要性堪比将从普通人身上搜集来的数据纳入算法。据称，人工智能的结果可理解为聚集了人们过去的行为。人们过去回答了大量问题，多数答案都由算法系统搜集起来，然后机械地搬到程序中。这并不带有任何轻视这个程序的意思，也并不是说程序无用。相反，这个程序很是不可思议。机器每给出一个新答案，最初提供答案的人理应从中获得报酬。

再看看将图书进行扫描做成电子书的案例。历史学家乔治·戴森（George Dyson）这样写道：“谷歌的工程师曾这样对我说：‘我们扫描这些书，不是供人阅读，而是供人工智能阅读。’”虽然我们还需要见证谷歌扫描图书的行为将以什么方式收尾，但是该项目以机器为中心，鼓励使用软件，软件将书视为对人们有利的，书又是大型数据库中独立的片段，其中语言表述与独立作者并未分离。在这一过程中，书的内容将被分为信息比特，以用于进行聚合，而作者本人、他们传递出的心声以及他们不同的观点将消失。不必说，这一过程将隐藏自身的轨迹，因此就很难为聚集过程中涉及的作者分发小额款项。

归根结底，人工智能这一特定的想法为我们避免承担责任提供了挡箭牌，我们可以声称机器能够为人承担越来越多的责任。这同样适用于那些我们根本就没有看作人工智能的事物，就如网飞公司和潘多拉的建议一样。我认为，算法系统推荐我们看电影、听音乐，这相对而言没有什么害处。但是，我希望，用户能够偶尔抵制网飞公司和潘多拉的建议；我们对艺术的欣赏不应该受到算法系统的限制，即使我们相信这种算法系统能够准确预测我们的品味。这些算法系统并不带有情感，也无实际意义，它们只是统计数据，揭示出关联性。

让这一点严重混淆的是，虽然硅谷向消费者出售人工智能，而本行业却从不将同样的自动化技术应用于业内的工作。比如，为新的智能手机选择设计特点就视为一项具有重大意义的行为。工程师们还没有准备好，难以相信他们自己的智能算法能够推翻苹果已故的总裁乔布斯，或其他对设计很敏感的人。

而我们其余的人在人工智能更加智能概念的诱使下，期望信任算法系统，用于评估我们的审美选择、学生取得的进步以及房屋业主或机构的信用风险。这样做最终只能够让我们夸大机器的能力，贬低我们作为人类的能力。相反，我们必须为机器承担的每一项任务负责，并再三检查算法系统提供的结论，就像过马路时尽管交通信号灯已经变绿，我们仍要左右看看一样。

当我们将计算机视为一种呆滞被动的工具时，我们就开始思考计算机和人类自身的行为，思路更加清晰，不那么理想化。这就是为什么工程结果除对消费者和记者有戏剧性的吸引力外，还常常以弗兰肯斯坦式的形式表现出来。

答案是计算机科学家是人，与其他人一样，同样惧怕遭遇各种情况。技术精英正在努力寻求某种思维方式，以对死亡进行解密。这有助于我们阐释奇点大学等地方的吸引力。颇具影响力的硅谷机构大力宣传这样一个故事：在不久的将来的某一天，互联网将突然聚集成为一种有超常智慧的人工智能，它拥有无限智慧，比我们任何个人和所有人结合起来都要聪明；转眼之间，它就会变得有生气，给人类一个措手不及，接管整个世界。

一些人认为，到那时，新的互联网具有情感，它会选择消灭我们；另一些人认为，互联网会很慷慨，就像谷歌将纸质书转换为数字形式一样，将我们数字化，从此我们就跟算法系统一样，永远生活在全球大脑中。说得对，这听起来像是在看科幻电影。如果就这么直接地表达，听起来的确怪怪的。但是在硅谷，这些想法可以赚更多的钱；这些想法是指导性原则，而不仅仅是大牌技术专家的消遣。

不言而喻的是，我们不能够指望出现检测灵魂的传感器，用以证明人的意识已经虚拟化，而且将永存不朽。可以确定的是，今天我们没有这种传感器确认存在有关人的玄学思想。所有关于意识、灵魂等的思想都确实已经平等地交织在一起，向我们暗示着一种非凡事物，即我们所见到的是一种新的宗教，它承载的是工程文化。(www.daowen.com)

但我想指出的是，世间大多的困惑和怨恨都源自宗教和现代性之间界限附近的紧张关系，即这到底是伊斯兰教或基督教教派对科学世界观的不信任，还是气候变化科学或干细胞研究等领域的进步给人们带来的不安。

如果技术专家正在创立他们自己的超现代宗教，而尽管人们的灵魂不断退化，这种宗教仍让他们耐心地等待，那么我们可以想象，紧张的关系将会加剧。如果技术摆在我们眼前且不附带任何玄学的包袱，那么现代性给人们带来的不安能否减少呢？

本质上，技术是服务的一种形式。技术专家工作的目的是让世界变得更美好。我们的发明创造要能够助我们减轻负担、减少贫困和苦难，有时甚至可以让世界变得更美。我们可以给人们更多选择，他们就可以行事更富道德，因为如果人们拥有医疗保障、住房，可以从事农耕，他们就有资本行善，而那些受疾病困扰、风餐露宿和忍饥挨饿的人，自然没有这个资本。

礼仪和人类的自我提升仍然是供人们选择的。这就是为什么科学家和工程师们应该将技术有效推广，尽力不要让人们厌烦这些选择。

只要不将宗教思想掺杂到工作中，我们就能够为人们提供最优的服务。

数字化时代及其之前的神政

如果我们要设计一个对人有利的世界，人就不能逐渐与机器等同起来。我们必须要保证，技术的变革必须以一种将人放在特殊地位的理念作为推动力。但是人究竟有什么特别之处呢？我们要承认自我，是否必须接受玄学的或超自然的原则呢？

对我所谓的“人本主义信息经济学”的介绍将贯穿本书。人本主义可能包括接受某种形式的二元论，二元论是指现实的含义不仅仅是一个方面。对于某些人而言，现实可能指存在独立精神的王国或阴间，但是对我而言，物理实际存在和逻辑都不能阐释一切。做一个具有怀疑心的二元论者就像走钢丝一样，向左偏，你就默许迷信，而向右偏，你就会陷入简化还原论的旋涡。

二元论表明，纵使机器再发达，也有别于人。当孩子们学习语言转换或回答问题时，他们同时也在培养语感、品味和道德感受等品质，这些是机器发明中没有的，它们只能靠杂乱的拼凑。

许多技术专家告诉我，我的情感独特，行事武断。我的推理既源自于对真理的追求，又源自于对实用主义的忠诚（人类的自由永存）。

在技术领域，相信人的特殊性是不受欢迎的，我希望这一点会改变。我们体验生活的方式（称之为“意识”）与唯物主义或信息化的世界观大相径庭。最近，我习惯称之为“体验”，是因为对立的哲学流派独霸了“意识”一词。目前，“意识”一词可用于指能够在机器人体内应用的自我模型。

体验是什么

如果想问“体验”是什么，我们可以用下面这个问题来勾画：如果世界上缺少了体验这个东西，它又会有什么不同呢？

如果茫茫宇宙中缺少个人体验，世间万象又会有哪些不同呢？这个问题的答案可能有很多种。一种回答是一切都不会发生变化，因为意识本来就只是幻象而已。（但我要指出的是，如果意识只是一种幻象，那么它是不会有任何贬损的。）

另一种回答是，宇宙需要意识，不然它会消失。这种思想在模仿物理学家约翰·阿奇博尔德·惠勒（John Archibald Wheeler）早期作品的人当中相当流行。惠勒曾经似乎相信，意识作为某些量子相互作用的观察者，为维持物质的运动起着一定作用。

还有一种回答，即没有意识的世界，人将变得迟钝一些，因而趋近大同，却也并非是千篇一律。那也是认知科学家研究的方向，它表明意识在大脑中的功能是具体而有限的。

此外，还有一种答案。如果不存在意识，所有粒子运动的轨迹都将是一样的。你在世界上能够做的任何测量都将得出同样的结果，不会有“粗鄙”的东西，也没有日常用品；不会有苹果，不会有房屋，也不会有认识它们的大脑。虽然我们大脑中对电子和化学键的记忆是不会改变的，但是我们不会用语言或是用思想来表达它们。

世界上就只有构成事物的粒子，而没有事物，粒子的地位不会改变，还是同过去一样。换句话说，意识为粒子提供本体论。如果没有意识，那我们足可以这样说，世界什么都不是，有的只是无数的粒子。若你倾向于以计算机为框架的话，那么剩下的就只有比特，没有数据结构。比特无法体验，所以什么都不是。

这一争论可能变得更加复杂，因为在物质的世界，各种层面的描述之间的信息带宽有限，因此一个人可以粗略地识别用“粒子相互作用”无法描述的动力学。过程越是简单，观察者们就越容易做出不同的阐释。在最小的量子系统中，可以做出测量的数量有限，因此人们对它的解释就可能有争议，而对这种现象本身的争议就较少。在大型系统中，情况就不一样了。哪一个经济指标影响更大？对这个问题的回答是无法达成一致的。

问题的关键是，人们周而复始，试图摆脱正在体验世界的观察者，目的是对我们生活的世界进行描述。本质上，要核实这类工程是否已完成是不可能的。

这就是为什么我认为推理肯定无法解决关于人是否“特殊”的争论。这类争论让我们想起康德试图利用推理证明神是存在或是不存在的行为。无论争论中涉及的是人还是神，我们的动机都是一样的。因此，我无法证明人类是特殊的，但也没有人能够证明人不特殊，不过我认为，更好的选择是我们假定人是特殊的，从中我们可能遗漏少许东西，但是我们可以收获更多。