理论教育 算法规制的现实意义及事前与事后规制的区别

算法规制的现实意义及事前与事后规制的区别

时间:2023-08-03 理论教育 版权反馈
【摘要】:就像P2P算法规制所揭示的那样,对于这两种不同规制进路的强调,有着强烈的现实意义。事前规制往往在损害防范成本低于损害发生成本时,被优先采用。即便损害发生的成本很高,也不能保证算法透明这一事前规制模式,是经济学上的更优选项。重温卡洛与巴尔金的论辩,有助于我们理解以算法透明为代表的事前规制与以算法问责为代表的事后规制的区别,对算法规制理论的构建,有着重要意义。

算法规制的现实意义及事前与事后规制的区别

正如前文所述,传统政治经济学对于透明原则的考量,出发点都和限制公权力密不可分。一方面,透明原则可以加强对于政府的可问责性;另一方面,透明原则也可以赋予公民更大的知情权。然而,传统透明原则与本文所讨论的算法透明原则,在内在逻辑和实际应用方面,都有所不同。尽管政府也开始逐步使用算法施政,但目前大部分算法(包括大部分政府所使用的算法)都是由公司所开发,且这些算法的行为后果也不仅仅限于公民(也可能包括政府本身),因此,对于透明原则所能带来的强化政府可问责性和公民知情权两方面理据,并不能——至少不能完全——适用于算法透明原则。更重要的是,正如前文所述,比之传统政治经济学上的透明原则,算法透明原则在可行性和必要性上,有着很大瑕疵。换句话说,在实际应用层面上,算法透明原则也难以兑现我们对传统透明原则所期待的规制效果。

当然,本文前面的内容,集中讨论了算法透明原则在算法治理中的应用及其限制。可是,到目前为止,本文还没有具体展开“如何规制算法”这一核心问题。基于我们对算法透明的合理定位,接下来,本文将抛砖引玉,提出算法规制重构方面的一些思考。由于算法透明在规制效力上的不足和限制,它仅仅能在一些情境下作为辅助规制手段。在应用特定的技术措施来矫正算法问题之后[60]的事后规制,尤其是算法问责,应该是法律人所更应关注的重点。[61]

通常而言,事前规制注重于损害发生之前的防范,而事后规制则注重于损害发生之后的解决。就像P2P算法规制所揭示的那样,对于这两种不同规制进路的强调,有着强烈的现实意义。并且,如果我们从成本收益分析的维度切入这一现实意义,就可以看得更加清晰。事前规制往往在损害防范成本低于损害发生成本时,被优先采用。[62]在算法规制这一领域,如前文所述,算法透明作为事前规制模式的一种,其防范损害发生的成本太高(尤其在面对机器学习和人工智能之时),[63]而同时收效也没有保证。即便损害发生的成本很高(比如飞机失事),也不能保证算法透明这一事前规制模式,是经济学上的更优选项。而事后规制在成本方面的好处主要有两点:其一,事后规制把一些很难获知且不一定有用的技术细节,利用事后规范或者追责的方式抹平了——我们把注意力集中到通过责任分配等手段来解决,而从成本收益角度跳出了的泥潭;其二,比之事前规制,事后规制在信息成本方面有着天然优势[64]——行为和后果往往在事后更容易得到明确,这点对于复杂算法所引发的后果尤其显著。本文限于篇幅,无力对算法规制作出细化的成本收益分析,但总体而言,笔者认为,事前规制在多数情况下,并非算法规制的更优选项,而作为事前规制手段的算法透明,更由于其在可行性和必要性上的不足,比之其他事后规制手段,其成本收益更显劣势。

除了成本收益考量之外,这两种进路的对比,也在某种程度上,折射出更深层次的两个算法规制理论面向:本质主义(Essentialism)和实用主义(Pragmatism)。这不禁让人想起几年前,雷恩·卡洛(Ryan Calo)和杰克·巴尔金(Jack Balkin)关于机器人规制的辩论

对于机器人的规制,卡洛秉持本质主义进路,关注其机器人的技术特性,认为我们一定要先搞清楚机器人的技术特性,然后再根据这些技术特性,来实施对技术的规制。[65]巴尔金对卡洛本质主义的批判,非常有力、也富有启发。他指出,包括卡洛本人在内的几乎所有当代美国法律人,都受到霍姆斯大法官的法律现实主义的影响。[66]而按照法律现实主义者对于法律与技术的理解,技术特点其实并不那么重要,真正重要的是技术的应用方式以及这些应用所带来的、以权力配置为代表的社会关系变化。这是由于技术的背后,还存在着人们怎么使用、博弈甚至规避技术这些具体实践。而就像乔纳森·兹特芮恩(Jonathan Zittrain)提到的创生性(Generative)技术那样,人们在使用技术的时候,往往会背离开发人员的初衷,并有很多变化,也可以在使用过程中不断地改进技术。[67]法律人应该关注这些技术变动背后的社会关系变动,而不是变化的技术本身。这显然是非常霍姆斯也非常实用主义的观点。

让我们回到P2P技术的例子。究其本质,P2P技术就是一个共享文件的软件,但迅速被用来传播盗版音视频文件,并且依据这一特定需求,而开发出很多新的附带播放、缓存、去中心化等功能的盗版音视频共享“神器”。如果我们接受巴尔金的观点,把重点放在考察技术背后的社会关系,我们就能够跳出本质主义所设置的迷宫,更直接地回应具体的规制问题。不再过多纠结于技术本质,也可以帮助我们更好地考察与具体权利义务关系有着更直接关联的规制要素。比如对于P2P技术所引发的盗版问题的规制,与其纠结于技术本质,不如更多关注人们使用或规避P2P技术时,所引发的权利义务关系的变化。现如今P2P技术下载的盗版音视频作品得到遏制,除了法律规制以外,还要依赖于更便捷的流媒体(附带会员和广告营销)商业模式——既然获得正版成本没那么高,人们也就没必要承担P2P盗版的法律风险和麻烦。而这些都与P2P技术算法的具体细节,没有直接关联。(www.daowen.com)

重温卡洛与巴尔金的论辩,有助于我们理解以算法透明为代表的事前规制与以算法问责为代表的事后规制的区别,对算法规制理论的构建,有着重要意义。前者关注技术本质,后者关注技术所引发的后果,两种规制思路的分野,在某种程度上,恰恰折射出关于技术本质的算法透明和以算法问责为代表的、关注法律后果的规制模式的比照。算法透明,就是要规制者搞明白,目标算法究其本质是什么,根据算法的特性,来施以规制。而以算法问责为代表的事后规制模式,就是要规制者去考察算法在实际运作中的具体结果及其背后的社会关系变化,针对它们来施以规制。[68]

这种学术讨论上的比附,也有助于我们反思当前算法透明原则在理论上的悖谬,以避免陷入“透明”“公开”“开放”等一些大词的迷思,而忘却法律人面对的具体规制问题以及其中可能存在的理论意义。换言之,法律人面对算法规制问题时,应当着重考量算法所引发的、以权力配置为代表的社会关系的变化(比如算法何以引发歧视性后果),而不是把关注点放在算法的技术本质(比如源代码是如何编写的)。

本文的论证进一步表明,带有强烈本质主义色彩的算法透明,在可行性和必要性上都存在瑕疵,只能作为算法规制的辅助手段存在。换句话说,算法本质应不应该被探究、能不能被探究清楚以及探究清楚之后能否保证有效规制,在本文看来,统统存疑。反之,实用主义导向的事后规制手段,较之算法透明有着更多优势,应该作为算法治理中的主要手段,而且也应当是法律人可能的理论贡献所在。后者,才是法学界应对算法问题的福尔摩斯。

当然,有些人可能质疑,我们一开始就把解决问题的重点放到了算法应用效果上,那么算法本质与算法应用之间转化的相关规制问题,可能就会在结构上被忽略了。这并非笔者本意。事实上,事后规制并不排斥在显现应用特定的技术措施来矫正算法问题,而且很多改造算法本质的技术措施,恰恰是由于事后规制倒逼而产生的。比如美国通过《儿童在线隐私保护法》(COPPA)及后续一系列判例形成对算法的事后问责之后,儿童保护网络内容软件的不断改进迭代。

最后,我们再把这一规制进路,具象化地放到部分前例中。对于机场安检歧视,不应当算法透明,而更适合事后问责;导弹试射事故,不应当算法透明,而更合适事后问责;自动飞行事故,没必要算法透明,而更适合事后问责;酒精检测失灵,没必要算法透明,而更适合事后审计……而如何把后面这些具体的事后规制制度的设计得更好,恰恰是法律人理应关注的问题。篇幅有限,笔者在本文中无意、也无法提供完整的算法规制图景,但就目前文章所论,至少揭示了算法透明的局限性,以及事后规制在实践中和学理上的优越性,为后续的讨论提供了基础。

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈