针对“卢米斯案”的分析揭示了算法可能继承和扩大的道德风险,也显示出开发商可能会出于商业考虑或技术不完备而引发系统性的歧视与误判。对此,算法开发商内部应当增强行业自律,并及时总结经验,制定相关的伦理标准和技术标准。
人工智能的发展面临着多元利益的权衡,因而需要制定行业共同遵循的伦理框架。例如,欧盟发布了“可信赖AI的道德准则”,其中规定了七项治理原则:①人工代理和监督;②技术的鲁棒性[54]和安全性;③隐私和数据治理;④透明度;⑤多样性、非歧视和公平性;⑥环境和社会福祉;⑦可问责性。[55]尽管如何确定算法公平的内涵仍然是一个难题,但是这不应当阻碍行业自律的有益尝试。算法公正的共识可能需要在行业内部讨论中才能达成。同时,诚如学者所说,算法暴政的根源不在于算法,而在于开发和使用算法的人。制定伦理标准可以完成对开发者的道德培训,使得技术人员在开发算法时可以增强警惕道德风险的意识,从而减少算法中的歧视和偏见。(www.daowen.com)
如果说伦理标准可能是一项较为宏观的展望,那么技术标准则更具可操作性。技术标准不仅旨在控制质量的稳定性,也是对道德风险的系统性预防。笔者建议,应当根据算法操作的全过程设置各项技术标准。①在数据输入阶段,应当保证数据的质量,避免“垃圾进,垃圾出”(garbage in,garbage out)的现象,要规范个人信息特别是个人敏感信息的使用,注重数据的精确性,也要注重各类人群数据量上的均衡,在进行数据标注时要准确分类。②在数据分析阶段,应当保证算法的中立性和准确性,通过设置严格的技术标准多角度地检测算法中可能存在的歧视性风险,避免在分类中遗漏重要的相关变量。③在数据输出阶段,应当根据技术发展水平,尽可能在输出结果的同时,同步输出各项自变量及其权重,乃至对关键算法的解释,以便算法使用者更好地判断该算法的风险。
免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。