理论教育 算法社会中的自由与自治

算法社会中的自由与自治

时间:2023-08-03 理论教育 版权反馈
【摘要】:意思表示是合同效力的核心要素,而算法解释是当事人基于意思自治同意用户协议的必然推论。用户意思自治下的“同意”必然包含着,用户有理由期望在发生危害和错误时,企业以公正和负责任的态度做出回应,否则将无从基于信赖利益接受用户协议。由上得出结论,赋予用户要求自动化决策使用者事后解释的权利,是用户基于意思自治同意用户协议的应有之义。

算法社会中的自由与自治

意思自治原则为民事领域保障自由价值的基本原则。它允许民事主体以自己的意思设立民事法律行为,对于保障民事主体的自由权利,体现民事主体人格利益的存在,保障个人尊严、社会公平正义至关重要。算法解释权是意思自治原则的应有内涵和必然推论。

当商家需面对大规模的用户时,只能依赖算法的自动化决策进行庞大的平台管理,通过用户协议获得用户对自动化决策的同意成为必然选择。即使用户协议中没有自动化决策的条款,用户接受自动化决策也会因实践行为而成为事实合同。故对算法解释的理论分析首先依合同理论展开。意思表示是合同效力的核心要素,而算法解释是当事人基于意思自治同意用户协议的必然推论。

通过整理知名互联网服务企业的用户协议我们可以发现,其用户协议均包含获取用户对自动化决策知情同意的条款,即提示用户存在自动化决策,并要求用户服从自动化决策的结果。[31]用户同意的内容应该被合理告知,任何人都不应该为自己所不了解的事情负有义务,这是意思自治的基本规则。[32]用户同意的前提必然是知情,即知悉对存在自动化决策和风险的事先解释。换句话说,有了知情才有同意。那么,用户知情同意所需的告知义务是否能延伸至事后解释呢?

如果事先解释已经能够提供用户应知的全部合理内容,事后解释殊无必要。然而,合同产生的风险并不能在签订合同的时候被完全地描述和预见。上文中淘宝对自动化决策语焉不详的事先解释并不能使用户适度知情。用户知情应包含事先和事后解释,这种安排类似于医疗合同中患者的知情权。自动化决策领域与医疗领域十分相像,算法使用人与医生都具有专业知识,用户和患者一样弱势,而使用网络和参与医疗一样必要。医疗合同中,即使医务人员事先履行了告知义务,并不排除患者在事后的知情权利,即了解自己接受治疗的具体情况。而由于患者很难真正理解医疗程序和风险,医务人员即使事先履行了告知义务,也不等于可以将医疗的风险和责任完全转嫁给患者。回到算法的自动化决策领域,当淘宝使用的算法可以判定用户是否违约,或者直接停止提供支付服务时,用户仅仅在事先知道有自动化决策显然不是真正和适度的知情。尊重用户要求事后解释的权利,应该是企业对于用户告知义务的合理内容。(www.daowen.com)

企业提供详尽的事先解释是否可以排除事后解释的义务?回答是否定的。因为,任何事先解释都无法完全或者充分的对自动化决策的后果和风险进行描述。即使有,这种事先解释必然文字极多,对用户而言无法理解也与自己不相关。显然,要求患者接受治疗前必须学习医学知识是荒谬的,让用户通过事先解释了解自动化决策,而排除事后解释的义务也是不合理的。

从另一个角度论证,即使用户通过协议的提示预见到了自动化决策错误的风险,这是否可以排除事后解释的权利呢?显然不能。用户意思自治下的“同意”必然包含着,用户有理由期望在发生危害和错误时,企业以公正和负责任的态度做出回应,否则将无从基于信赖利益接受用户协议。这种合理要求并不因服务协议中没有提及或排除而消失。与此类似的是,很多互联网企业提供的服务协议均要求用户放弃起诉的权利[33],如必须仲裁等条款,但用户要求法院裁决合同纠纷的权利并不因此消失。如果没有法院背后的公权力作为公正裁决和履行合同的保障,用户势必从一开始就不敢信任企业并接受用户协议。同样,也是基于这种基本的信赖用户才可能同意接受自动化决策。

由上得出结论,赋予用户要求自动化决策使用者事后解释的权利,是用户基于意思自治同意用户协议的应有之义。事后的算法解释,是合同意思自治必然衍生的权利,而且不可被事先解释所替代。

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈