理论教育 算法透明机制的设计与实现:智能传播中的机遇与挑战

算法透明机制的设计与实现:智能传播中的机遇与挑战

时间:2023-11-22 理论教育 版权反馈
【摘要】:从一般意义上来说,透明意味着获悉真相和人类行为动机的手段和方法。结合前文对算法运行过程中的“黑箱”问题和算法透明现实阻力的分析,本文认为,可以结合内生性的生产逻辑和外生性的监管逻辑,按照生产主体、法律规制和社会监督三个思路构建算法透明实现机制(见图4)。生产主体应就算法的运算和决策过程予以必要解释,以实现程序透明。针对不同用途的算法,从其内部的设计规则以及外部行为与后果等层面构建算法权力规范体系。

算法透明机制的设计与实现:智能传播中的机遇与挑战

算法的哪些内容应该向用户充分披露?如何在算法透明性和商业利益之间寻找一个恰当的平衡点?从一般意义上来说,透明意味着获悉真相和人类行为动机的手段和方法。按照新闻透明性的要求,通过公开信息披露,无论用户是否属于新闻从业人员,只要对新闻作品及其生产流程感兴趣,均享有监督、核查、评判甚至参与到新闻采集、生产以及分发过程的机会,用户借此可以更多地了解新闻生产过程及其背后的设计逻辑[11]

结合前文对算法运行过程中的“黑箱”问题和算法透明现实阻力的分析,本文认为,可以结合内生性的生产逻辑和外生性的监管逻辑,按照生产主体、法律规制和社会监督三个思路构建算法透明实现机制(见图4)。

第一,从生产主体的角度来看,专业媒体、技术公司以及新闻聚合网站可以本着算法要素透明、程序透明和背景透明的原则构建算法披露机制,提升算法透明度。

算法要素透明。数据是算法运行的前提条件和基本要素。在基于算法的新闻生产和分发流程中,算法程序的高效运行对数据量级和质量均有很高的要求。按照透明性的原则,新闻媒体机构需要对数据质量、可信度、准确性、误差范围、采样范围、缺失值、机器学习过程中训练数据的规模等进行必要说明。另外,对于涉及公共利益的算法,新闻机构应向用户主动披露源代码。此外,模型输入的变量及其特征,特别是对于新闻价值定义的标准、语义分析时的关键变量值、特征权重和建模工具等信息均有必要向用户披露,从而使他们对算法的建模过程有较为全面的了解。

图4 算法透明实现机制的设计思路

算法程序透明。生产主体应就算法的运算和决策过程予以必要解释,以实现程序透明。算法程序的推理规则,如分类、数值推测、推荐等,其中包含的准确度、基准值、置信水平等统计数据均存在不确定性。还有外部接口的开关、输入与权重的可调整性以及呈现给终端用户的界面设计等,都需要以用户理解的方式予以充分披露。

算法背景透明。自动化新闻生产过程中是否有人工编辑和记者的干预、以何种形式、在什么程度上参与,谁应对报道的准确性负责,媒体机构应该予以明确说明。此外,对算法在实际运行中可能带有的偏见、易犯的错误,新闻机构应该坦诚告知用户。特别是当涉及争议性、批判性新闻话题的时候,应向用户交代算法设计者及其所在机构的目标和意图。

从具体操作方式上看,媒体机构可以效法其他商业企业,以发布阶段性算法透明报告或组织分享交流会的形式,向外界定期公开算法运行的相关信息。例如,今日头条在2018年1月份召开了一场旨在推动整个行业问诊算法、建言算法的论坛,面向行业公开头条的算法原理,以消除社会各界对算法的困惑和误解。(www.daowen.com)

另外,在媒体内部设置专门岗位,由专职人员负责与受众或用户沟通、解释算法的运作机理,也不失为一个增强用户黏性、提高算法透明度的好办法。在信息披露界面设计上,还应思考如何在不影响用户体验的前提下以通俗易懂、界面友好的方式披露算法信息。

在法律体系层面,目前我国政府尚未针对算法特殊性及其在互联网时代产生的法律问题做出回应,如是否应该承认人工智能作为具有自我意识的法律主体地位,是否应该保护算法新闻的著作权、言论自由等权利及责任认定等。

从国际范围来看,欧盟率先在2016年5月通过《全面数据保护法》(General Data Protection Regulation),规定软件公司应向用户解释算法决策背后的逻辑推理过程,并明确规定,如果相关主体未履行披露义务,将对其处以高额罚金。美国计算机学会公众政策委员会(ACM Public Policy Council)也公布了知情原则、质询和申诉原则等六项算法治理指导细则[12]。对此我国监管部门可在研判我国互联网治理的具体国情基础上予以适当借鉴。

在监管方式上,相关政府部门可从事前干预算法设计和事后向算法追究责任两方面入手。要在尊重算法商业逻辑的基础上,将算法与新闻业的融合看成是互联网智能演进的过程中由商业力量驱动的知识生产过程,思索基于算法的新闻价值生产以及相应的问题。不仅要约束多元利益主体在互联网空间中的行为,也要对算法技术本身的变化做出回应。针对不同用途的算法,从其内部的设计规则以及外部行为与后果等层面构建算法权力规范体系。[13]

第三,在更广的社会监督层面,随着我国信息公开进程的逐步推进和数据开放环境的改善,数据保护、数据安全意识近年来已普遍得到社会公众的认可。但智能算法在社会公众眼中往往带有“科学”“客观”的外在光环和神秘性。笔者认为,要实现对算法权力的问责和充分监督,应在全社会范围内加强“算法素养”(algorithm literacy)教育,引入第三方监督与核查力量,并充分发挥专业新闻媒体的问责和监督职能。

培育算法素养。算法设计者和利益相关者应树立兼顾效率和公共利益的理念,设计和使用算法的时候遵循相应的伦理规范。社会公众应多学习和了解必要的算法常识,既不过于依赖算法,也应清醒认识到算法的负外部性问题,对算法的系统性影响给予审慎的评价和认知,不仅要以争取合理知情权的方式破除算法“黑箱”,还应理性地生产和保护个人信息,防范算法可能催生的风险与消极后果。

加强第三方算法监管力量。为了保证对算法权力的全方位监督,应建立值得信赖的算法伦理委员会等第三方独立组织,支持学术性组织、非营利机构或自媒体的适当介入,加强第三方监管力量。目前在德国已经出现了由技术专家和资深媒体人挑头成立的名为“监控算法”(Algorithm Watch)的非营利性组织,宗旨是评估并监控影响公共生活的算法决策过程。具体的监管手段包括审核访问协议的严密性、商定数字管理的道德准则、任命专人监管信息、在线跟踪个人信息再次使用的情况,允许用户不提供个人数据、为数据访问设置时间轴,未经同意不得将数据转卖给第三方等。

发挥专业媒体的算法问责职能。专业新闻媒体,特别是其中的调查记者队伍素来被视为追求事实真相、推动社会进步的标杆。算法时代的媒体机构一方面要对机构内部的算法使用和运行情况展开自我核查和纠错,另一方面也应充分发挥事实真相提供者和舆论监督主力的职能,针对算法可能存在的偏见、歧视以及错误,勇于向算法提问、调查和追责。

免责声明:以上内容源自网络,版权归原作者所有,如有侵犯您的原创版权请告知,我们将尽快删除相关内容。

我要反馈