(1)伦理风险
机器人将逐渐融入我们的生活,但这一发展可能会带来一些值得关注的伦理风险。
首先,人们如何从心理上去接受一个人形机器人,这将使人们面临着心理的冲击。人类应该是智能机器人的主人还是朋友,这是一个值得进一步深思的问题,在实践中,从包括媒体报道中涉及人机关系的措辞,以及学生在参与调查中涉及人机关系时所使用的语言中,我们发现,不少人经常使用“主人”来称呼人机关系中人类一方,这背后其实反映了一种不对等甚至不平等的关系预期。这给我们指出了一点,即人类如何与人形的机器人相处也是未来智能社会的一个风险。
其次,人类可能会过度依赖机器人。前述章节我们曾经谈到在极端情况下,人们对机器人的过度信任会带来问题。在通常情况下,人们对智能机器人的过度依赖会带来潜在的风险,包括人机情感危机、情感依赖、失去某种自决权等。例如,我们在第3章中曾经探讨过的AI依赖及人机情感危机问题。(www.daowen.com)
再次,人工智能的伦理问题也一直没有定论。例如,在人工智能的使用过程中,难免会做出违背人道主义的事情,谩骂、殴打和虐待可能会发生,甚至将机器人当成发泄的工具等。
此外,在特殊情形下AI需要及时做出优化决定,这有时会引发伦理风险。尽管大多数情况下这种优化决定是客观决定并且受到普遍接受,但也有些例子引起了道德和伦理方面的问题。比方说,知道自己就要撞上行人的无人车必须在数毫秒之内做出决定是否要通过(对乘客)危险的机动避开易受影响的行人。这些关键决策背后的逻辑必须事先定义好,得到很好的理解和接受。与此同时,在特定数据保护规则的约束下,无人车活动和决策的详细历史必须能访问到并且提供给大家进行分析。[130]
(2)异化风险
有的人认为,人工智能在未来会超越人类智能,人类正在创造一个比自身更加强大的物种。基于此种论调,人工智能的异化与反抗风险也许便成为可能。那么,人类是否会被机器取代?什么时候才会出现通用人工智能?对此,在2018年11月13日举行的美国麻省理工学院中国峰会上,MIT计算机科学与人工智能实验室主任罗斯女士表示,人工智能会给每个人的生活带来益处。“(人工智能)工具本身没有好坏之分,关键在于人们如何使用它”,而根据罗斯的观点,我们离通用人工智能还非常遥远。她说,担心通用人工智能就像担心火星上人口过剩一样。与其担心机器会替代我们,还不如关注机器能如何支持我们。[131]
免责声明：以上内容源自网络，版权归原作者所有，如有侵犯您的原创版权请告知，我们将尽快删除相关内容。
