今天，我们从事的所有事情几乎都由算法决定。谷歌决定我们每天首先读什么，亚马逊决定我们买什么书，找房子、找工作或者找朋友，都离不开各种各样的网络服务商提供的平台。人们会有意无意地遵从别人为其安排好的选择，尽管其可能不愿意让一台机器为自己做决定。我们在网上的行为和交易都会留下痕迹。无论买书、搜餐馆，还是在网上跟银行打交道都会成为“大数据”，网商将会根据你的喜好和购物习惯给你推荐物品。

算法本来只是由编程员编写的一些电脑程式，但今天的算法已经能够自学、自我完善。它们接受的数据越多，读懂人的行为的概率就越大，在人工智能的路上走得就更远，尽管我们无法判断在这条路上走下去是好是坏。故此，霍金说：“成功创造人工智能是人类有史以来最重大的事情；然而，不幸的是，这也可能是最后一次，除非我们学会如何避免危险。”（“Success in creating AI would be the biggest event in human history”；“Unfortunately，it might also be the last，unless we learn how to avoid the risks”.）[5]

如上所述，在算法社会，大数据、算法以及人工智能的运用与人的命运息息相关，人们的生活、就业及各种机会都受制于这些因素。而受惠于这些因素的主要是政府和企业。算法社会为政府和企业提供了大量的个人信息。政府通过各种渠道不仅可以有效地监测个人的网上信息和行为，也可以利用企业的基础设施和技术，帮助并参与对个人信息和网络的控制。因此，在数字时代，个人的言论自由会受到企业的监控，而且企业的监控无远弗届。当今的主要网络提供商都是大型的跨国公司，它们的手臂可以伸到世界的每个角落。换句话说，在监控资本主义的视野内，个人作为算法与网络的消费者是无处逃遁的。[6]政府的手脚力所不能及的地方，企业却更为有效。当然，政府和企业的合作是建立在利益基础上的，而政府和企业之间的利益也并不一致。政府需要借助企业的基础设施和技术力量来达到自己的目的，而企业则为了免于干扰或获得更多资源与政府合作。尽管政府用纳税人的钱支持商家开发人工智能的做法是否正确很值得怀疑，但这种事情往往会以冠冕堂皇的借口证成，比如国家战略、民族的大计等等。在政府、企业和个人这个三角关系中，个人没有多少发言权，只能是牺牲品。对个人权利（尤其是隐私权和言论自由）的威胁来自多方面的渠道。[7]因此，在算法社会，消费者的权益变得尤其重要。

智能机器系统正在改变我们的生活。它们可以帮助人们安排日常事务、操持家务、从事研究、提供翻译、判断真假、协助断案，甚至进行艺术创作。随着人工智能在生活中的普及和不断提高，人类的生活会变得越来越有效率、越来越丰富。与此同时，随着人工智能以各种各样的形式走入我们的生活世界，人们开始担忧它可能带来的麻烦。机器人违反了法律，或者伤害了人身或财产，谁来承担责任？如何控制机器人产品的质量？自然人损坏了机器人应该如何赔偿？无人驾驶的交通工具出了事故该如何问责？[8]如何对待不良商家借人工智能谋取暴利？如何应对人工智能引起的业界的乱象和泡沫？如何规制人工智能的科学探索，从而避免使其走向反人类的方向？诸如此类的问题使要不要制定专门的人工智能法成了一个重要的话题。姑且不说像人工智能是否会取代人工，通用人工智能会不会超越人类等这类大科学家、思想家和企业家们所担心的终极问题。

当然，目前人们最担心的还是自己会不会丢掉工作。这种担心不仅体力劳动者有，脑力劳动者也有。人工智能的发展会不会带来大量的失业？货运卡车行业很明显已经受到了冲击。当人们热议伊隆·马斯克（Elon Musk）的自动驾驶汽车如何了得之时，可以预见的问题是卡车司机、出租车司机该怎么办？自动化将会使更多的人失去工作机会，包括办公室工作人员。有多种研究已经表明，未来20年间，大量的流水线工作人员，人文含量不高的工作岗位都会面临被机器人代替的危险。理想地说，自动化在某种意义上说是一种解放生产力或者还人以自由的动力。被解放出来的人也许可以从事更有意义的工作或者研究。一种乐观的态度认为，新技术革命初期会带来失业潮，但最后都会创造更多的机会。但没有人非常肯定地说这次也会如此。

另一个令人担心的问题是不平等。大数据、人工智能、算法、数据解析、机器学习、区块链，这些概念每天都在轰炸着我们。可是，真正理解它们却需要很好的教育背景。算法社会对人的科技素质的要求非常高，没有相当的教育水准是难以适应的。这就注定了算法社会一定是科技精英社会。少数人会成为主宰，而大多数人只能顺从。我们可能正在期望一个比现有社会更不平等的社会。这种不平等是从起点到结果的全方位的不平等，这是罗尔斯（Rawls）、桑德尔（Sandel）和森（Sen）合起来也无法对付的。(www.daowen.com)

这种不平等首先是对资源占有的不平等。在数字时代，数据是最重要的资源。对数据的占有是成功与否的基础所在。目前的状况是，只有为数不多的几家公司有能力占有大量的数据，竞争也只能在很小的圈子里进行。脸书、谷歌、亚马逊、苹果及微软这五家互联网与人工智能开发的巨头在业界早已形成垄断之势。[9]其次是对机器创造的财富的分配。由于机器的广泛应用，大量的人工被代替。资本家利用机器创造的财富分配给被取代了的人员的可能性并不大。财富最终自然而然地掌握在少数拥有人工智能的大公司的所有者和支持他们的当权者手中。贫富差距正在而且将会被进一步拉大。所谓“后劳工”社会就是数字技术上有优势的寡头及其技术精英团队和当权者同谋共赢的社会。思之，令人悲伤不已！

机器对于人的行为的影响也是值得担忧的一个问题。智能手机的发明给人们的生活带来了无与伦比的方便，但也几乎把人变成了瘾君子。很多抵抗力较弱的人已经沦为手机的奴隶，每天机不离手，几乎分分秒秒都在看手机，或收发短信，或玩游戏，或看节目。美国佛罗里达州的一位母亲沉迷于手机游戏，不顾孩子。孩子一哭，便对其施加暴力，致使孩子死亡，做母亲的后悔莫及，而且还要面对法律的制裁。这样的悲剧在美国不止一次地发生过。[10]今天人们对机器的沉溺比当年人们吸食鸦片可能有过之而无不及，所不同的是，今天人们对迷恋机器的危害还没有充分认识。

任何先进技术都是一把“双刃剑”。可以被用来造福人类，也可能被用来毁灭人类。人工智能研究的最新、最尖端的成果恐怕都是首先用于军事方面。各国出于保护自己利益的需要，争先恐后地发展人工智能武器装备。无人驾驶飞机成为新一轮军备竞赛的主要装备。现在，拥有杀人机器人的国家已经不少，而且在不断增加。人工智能武器已经成为军火商贩卖的新式武器。人工智能武器不仅指杀人的机器人，或者用机器人代替人去当兵，而且更重要的是人工智能对网络系统和其他智能系统的瘫痪性攻击。网络安全因之是非常重要的安全问题。

然而，更为吊诡的而且也是无法预料的是人工智能自身的发展有可能超出人类的掌握。也许在某一个环节，人创造的人工智能会走上独立自主的道路，完全脱离人的掌控而自行其是，成为人的敌人或者从事不利于人类的活动。就像传说中的只喜欢制造曲别针的机器人，一切在它的眼中都是制造曲别针的原料，连人也不能幸免。更不用说，如果库茨韦尔（Ray Kurzweil）等人翘首以待的“奇点”成为现实，人与机器的关系将会发生何种翻天覆地的变化！[11]