人工智能(包括智能机器人)会有越轨行为吗?整体而言,人工智能的越轨行为有两种情况。

1.人工智能自身作为越轨行为的主体

人工智能成为越轨行为的主体,我们可以从现实和未来发展两个层面来分析。

首先,就技术发展的现实角度而言,限于技术成熟度,显然人工智能体还难以作为越轨行为的主体,但从一些媒体报道的案例[95]中,我们可以发现智能体作为行为主体的端倪。例如,在2016年于深圳举办的第十八届中国国际高新技术成果交易会上,一台名为小胖的机器人突然发生故障,在没有指令的情况下自行打砸展台玻璃,最终导致部分展台破坏,此外,该机器人还砸伤了一名路人。

其次,就AI技术的未来发展而言,有关专家曾警告称,到2040年机器人犯罪率将超过人类,成为大多数犯罪的主体。随着科技的进步,智能机器人将会变得相对更为智能和强大,机器人的这一发展趋势,已经引起了人类的关注与警觉。英国伦敦著名咨询机构未来实验室首席战略与创新官特雷西·弗洛斯表示,“数年前未来学家曾经预言过‘独狼’式恐怖袭击将会大幅增多。机器人一旦被‘劫持’并被用作自杀式炸弹,那后果将不堪设想。单个机器人实施‘独狼’式恐怖袭击将可能越来越普遍”。特雷西认为,人工智能和机器学习技术将帮助机器人拥有自动编程并实施犯罪行为的能力。[96]我们已经在各种影视作品里看到过这种场景,这种影视渲染也往往成为机器人恐惧论的滥觞。

2.人工智能被他人利用做出越轨行为

(1)人工智能被黑客入侵控制做出越轨行为(www.daowen.com)

作为一项ICT技术,AI既可能被用来向善,同时亦有可能被用来作恶。由于机器人本质上使用的是操作系统,如同手机或电脑一样,一旦系统连接到互联网,黑客就有可能入侵它。一旦机器人被黑客入侵,黑客就能彻底控制机器人并向其发出指令。[97]例如,无人驾驶汽车或无人机如果被犯罪分子劫持或重新编程,那么也有可能带来祸害,做出越轨行为。

(2)人工智能所收集的用户资料被非法交易用来谋利

智能社会的一种越轨行为是用户资料等隐私信息被非法交易以谋利。例如,据报道,iRobot公司CEO表示其家居布局数据其实可以应用在更多智能家电之上,令智能家居生态变得更完整,因此他们已计划在未来几年内将这些资料出售给谷歌、苹果或亚马逊等公司。此言一出,立刻引起了轩然大波,用户纷纷表示担心自己的信息数据被公司用来交易,后来iRobot的CEO及其公关代表明确表态“iRobot将永远不会出售您的数据”。CEO在发表的一封信中表示,由其设备收集的信息“需要由客户控制,而不是作为公司的数据资产来利用”。[98]随着智能家居设备引入家居生活,用户的个体及家庭行为的数据由此被记录存储起来,由这些设备所收集的信息需要由客户控制,不能被作为公司的数据资产被出售,但在此案例中,人工智能所收集的用户资料存在着被非法交易的可能性。而这可以被视为智能社会的越轨行为的一种表现。

再如,据报道,亚马逊公司通过优化算法,在2018年年底调整了其电商网站的搜索系统,搜索结果的前列将优先显示亚马逊旗下自有品牌的产品,而非和用户输入结果“最相关”的产品。亚马逊在声明中间接承认了“长期盈利能力”是搜索算法的调整因素之一。亚马逊不仅是全球最大的B2B电商平台之一,它也是自有品牌产品的销售商。因此,亚马逊对搜索算法进行的任何调整,都将影响到第三方商家的直接收益。据营销分析公司Jumpshot称,亚马逊的搜索栏是美国消费者网购时最常用的商品搜索方式,全站点击数有三分之二来源于搜索结果的第一页,这意味着没有挤进第一页的商品,点击率远低于首页商品,进而销量也会大打折扣。长期以来亚马逊网站搜索和排名的算法优先考虑加权的变量是商品销售量、评价、流行度以及用户输入的商品名称匹配度,“公司盈利能力”从未得到优先加权。[99]而此次调整,如一些媒体所指责的那样,自营产品在搜索结果中的排序更靠前,也就意味着公司有利用智能算法不当谋利的嫌疑。

正如前述,人工智能技术既可以被用来向善,也可以被不法分子用来做出越轨行为,很多人都在谈论利用机器学习和人工智能来打击有组织犯罪,但有组织犯罪分子也会利用相同的技术,这是需要注意的事情。人们看到了算法在提升计算机安全性方面的潜力,但它同样有能力去破坏这种安全性,既能当盾,亦能为矛。当然,人工智能不仅仅是我们人类需要关注的越轨行为的主体之一,同时它们也会成为人类社会实施社会控制的主体之一。下面,我们再来探讨人工智能与社会控制。