理论教育 计算机科学角度的算法透明与算法社会中的法律沉思

计算机科学角度的算法透明与算法社会中的法律沉思

时间:2023-08-03 理论教育 版权反馈
【摘要】:首先,我们来考察一下计算机科学角度的算法透明。美国计算机协会作为算法治理的业界权威,在2017年,公布了算法治理七项原则(见下表)。或许正是因此,以美国计算机协会为代表的业界,并未对算法透明报以奢望,而是倾向于事后规制为主的规制策略。

计算机科学角度的算法透明与算法社会中的法律沉思

首先,我们来考察一下计算机科学角度的算法透明。美国计算机协会(Association for Computing Machinery)作为算法治理的业界权威,在2017年,公布了算法治理七项原则(见下表)。[55]

从上述列表中,我们可以得到四个有关算法透明的教益。第一,知情原则对应的是算法透明中算法规制对象的知情权这一面向。但是,计算机工程师对于算法透明中的“知情”有更务实的把握——直接公开源代码不等于知情;而且,我们还需关注更深层次的“知情”,亦即“算法设计、执行、使用过程中可能存在的偏见和可能造成的潜在危害”。第二,计算机工程师对于算法透明的功用,有着更为清醒的认识,他们认为即便是公开和披露算法,也无法确切把握最终运算结果。于是,他们使用了“可能存在的偏见”(第1项和第5项)和“可能造成的潜在危害”(第1项)这样的模糊字眼,其所隐含的信息是,我们对算法的认知,只能力图接近,但很难确切把握。这与部分法律人对算法透明脱离实际的期许,形成鲜明对比。第三,计算机工程师明确意识到,算法披露本身,也受到其他条件的制约,比如第5项提到的隐私保护、商业秘密和恶性博弈。而这些制约,正如本文第二部分论述的那样,与算法透明的可行性有着持久的张力。[56]尽管限制披露对象(“只对适格的、获得授权的个人进行选择性披露”),可以缓和这种张力,但这也无法根本解决所有冲突。第四,对于前文讨论的算法规制的两大类别,计算机工程师关注的,是事后规制,而非事前规制。除了第1项的部分内容和第5项之外,其余手段大体上均为可以纳入事后规制范畴。(www.daowen.com)

从上述分析我们可以看出,计算机工程师——作为对算法技术比较熟悉的专家——对算法透明的局限,有着清醒的认识。一般而言,工程师更关心技术的细节,而法律人更关心技术所带来的权利、义务和责任。照此逻辑,比起法律人,工程师应该更关注算法透明所能带来的对于技术细节的理解及其对算法规制的意义。然而,在计算机工程师眼里,算法透明却并不处于算法规制的核心地位,这很能说明问题——要么就是算法透明,由于客观原因而难以实现,或者即便能够实现也无法确保他们对于技术细节的理解;要么就是算法透明,本身不足以让我们能够解决相应的算法规制问题。或许正是因此,以美国计算机协会为代表的业界,并未对算法透明报以奢望,而是倾向于事后规制(如救济、审计、解释、验证、测试、问责等)为主的规制策略。[57]

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈