理论教育 算法解释权的双层结构及更新解释法律沉思

算法解释权的双层结构及更新解释法律沉思

时间:2023-08-03 理论教育 版权反馈
【摘要】:算法解释权具体内容应包括两个层次:第一层次为事后的具体解释;第二层次为事后更新解释。其在符合相关性和可理解性标准的前提下包括两个层面:其一,解释与具体决策相关的系统功能,例如自动该决策系统的逻辑、意义、算法设定的目的和一般功能,包括但不限于系统的需求规范、决策树、预定义模型、标准和分类结构等。例如,用户的信用评分结果参考了哪些数据以及这些数据在决策树或者模型中的权重。

算法解释权的双层结构及更新解释法律沉思

算法解释权具体内容应包括两个层次:第一层次为事后的具体解释;第二层次为事后更新解释。此外,还应为自动化决策者拒不提供解释或没有提供相对人满意的解释提供进一步协商和救济的选择。以上层次应为层层推进的关系,上一层次的解释完备后即排除下一层次的解释权利,以最大限度地节约资源、提高效率,减轻自动化决策使用人的负担。

(1)事后的具体解释。第一层面为事后的具体解释。这一层面使相对人了解具体决策的规则和因素,既可以排查具体决策适用的规则是否包含有歧视性、非法性问题,又可以让相对人知晓具体不利决策做出的原因。其在符合相关性和可理解性标准的前提下包括两个层面:其一,解释与具体决策相关的系统功能,例如自动该决策系统的逻辑、意义、算法设定的目的和一般功能,包括但不限于系统的需求规范、决策树、预定义模型、标准和分类结构等。其二,解释具体决策的理由、原因、产生决策结果的个人数据,例如每种指标的功能权重、机器定义的特定案例决策规则、起参考辅助作用的信息等。[43]

举例而言,银行使用公民数据(如纳税记录,收入记录等)对用户进行信用评级,以决定是否发放信贷。用户可以申请信贷公司或算法提供者解释算法的功能和通用的逻辑(比如参与决策的数据类型和特征,以及决策树的类别)、算法的目的和意义(进行信用评分以发放贷款)以及设想的后果(可能影响信用记录,影响利率)。在第二个层面,用户可以要求解释具体决定的逻辑和个人数据的权重。例如,用户的信用评分结果参考了哪些数据以及这些数据在决策树或者模型中的权重。第一个层次的信息类似于行政复议中对行政决定的合法性审查,通过对算法的决策基本情况的了解,用户有权知晓算法是否合法,是否包含有歧视因素,等等。而第二个层面的审查类似行政复议中对行政决定的合理性审查,即每个数据在评分中所占的比重是否合理。否则,如果一个人被互联网信贷公司拒绝,他被告知,算法充分考虑了他的信用记录、年龄和邮政编码,但此人仍然不清楚每种因素所占比重和哪个因素导致自己被拒绝,解释权便形同虚设。

(2)事后的更新解释。第二层面为事后的更新解释。相对人在知晓有关不利决策的原因后,有两种选择:其一为发现不利决策是由算法错误引起的,可以要求算法使用人对自动化决策进行修正。其二,为发现不利决策是由于使用的数据造成的,要么可以更新数据(提供正确或删除错误数据)要求重新自动决策,要么可提出退出自动决策。(www.daowen.com)

第一种情况下,如果相对人发现不利决策是由算法引起的,如求职被拒者发现算法歧视年轻女性,则可以要求算法使用人更新自动化决策的算法。以事后救济为目的的算法解释权必然包含了使权利状态恢复公平正义的事后更新的请求权。第二种情况下,算法是根据历史数据做出的,如果相对人发现算法使用的历史数据错误,应有权提供正确数据,或消除错误数据的不利影响,要求重新做出决策,或者退出自动化决策。如前文房主起诉Zillow自动估价算法低估房产价值,如果发现系由于错误数据造成,用户可以要求更新正确数据。如果此番解释仍不能使估价回归常态,用户有权要求退出自动估价的决策。应特殊注意的是,这种退出自动化决策的权利前两个层次的解释权都无法解决的情况下方可适用。但此种退出决策的否决权十分必要,在相对人遭受不公又无法解决时,应提供其不受自动化决策的权利。类似的情况是,当病人在了解摘除肿瘤器官移植医疗手术风险后,决定接受医生的手术,但这并不意味着病人一定有义务完成手术,即使在手术中病人仍可使用否决权要求终止手术。

算法解释权内部的配置和内在构造属于基本的制度设计,应设有开放空间,给未来具有智能性的算法预留一定程度的法律地位的可能性。考虑到现阶段为相对人提供救济的必要性和紧迫性,应同时考虑权利实施中的具体规则,使此种权利能够尽快落地,实现从权利到利益的转化。算法解释权的具体制度应同时考虑效率与正义,其行使限制、程序等问题由于篇幅所限将另撰文详述。

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈