苏宇:算法治理应首先立足规范算法权力
发布日期:2023-11-01 来源:中国社会科学网


  算法治理应首先立足规范算法权力。算法治理体系中,算法权力是算法治理的直接抓手,也是理解算法风险性质和发生路径的关键要点。以规范算法权力为首要立足点,有助于迎接新型权力现象的挑战,充分理解算法的公共属性,找准和优化算法治理思路,引入和革新算法时代的公法治理体系。

  算法治理正日益受到国家和社会的高度关注,算法治理的制度工具箱也在持续丰富和充实。伴随算法治理及相关法治建设进程的不断深入,“算法权利”和“算法权力”的概念亦随之出现。无论是保障用户、相对人乃至公众的算法权利,还是规范、约束和监督公共机构与大型平台的算法权力,都已出现系列学理主张,也都具有秉要执本的意义。然而,算法治理应当侧重“权利”视角还是侧重“权力”视角的思考、首先立足规范算法权力还是保障算法权利,仍然是一个引人深思的话题。无疑,算法治理最终是为了保障公民权益、促进公共福祉,但在选择切入点时,算法治理仍然应当首先立足规范算法权力。

  第一,以规范算法权力为首要立足点,有助于迎接新型权力现象的挑战。选择首先立足“算法权力”,本质上是因为“算法权力”深刻揭示了一种需要严肃对待的新型法律现象乃至法律关系。“算法权力”的概念自提出以来就一直面临各种各样的争议。的确,算法本身无所谓“权力”,自技术角度观之,算法本身只是一种解决特定问题的技术方案,正如将冒泡排序法、二分查找法或梯度下降法称为权力是荒谬的。我们说“算法权力”,实际上针对的是算法应用所发挥的影响和作用。不过,并非所有的算法应用都包含“算法权力”。例如,在个人电脑上运用一些简单的算法制作自己玩的单机游戏,似乎很难称得上实施了什么“算法权力”。然而,对于公共机构和大型平台动辄影响数以万计相对人或用户的算法应用而言,受影响者就可能会对“算法权力”的存在有切身感受。以“算法权力”刻画公共机构和平台算法所发挥的作用和影响,是一种颇有冲击力的认知方式,既契合了算法作用和影响的特质,也符合算法治理的深层需求。算法治理面临全新挑战,不仅需要承认“算法权力”,更需要立足“算法权力”的视角,推动治理思路的突破。

  权力的概念和含义在人类历史长河中是不断演化的。对于以法理层面各种支配作用为基点的“权力”概念,我们或许习以为常,但也仅仅是启蒙时代以降的一个“新传统”。在西方,曾经有过彼此区隔、互不统属的碎片化权力概念图式,也有过层次井然、内容固定的权力概念图式,而将法理上各种各样的支配作用统合起来,以诸多权力相关概念中的potestas为基础、以其他概念为补充,建构为今天这种具备高度抽象性和流动性、与权利相对峙的权力概念,实际上是相当晚近的事情。纵观权力概念发展史,权力现象是极其鲜活的,权力无处不在而又十分灵活,各个时代的公法学家都会根据当时的权力现象和概念工具,建构有时代意义和现实色彩的认知和治理框架。因此,我们决不能刻舟求剑,仅仅从支配作用去理解权力现象。“算法权力”概念可以说是对算法时代新型权力现象的传神描画,这种权力的基石往往是精心设计、直指人心的影响作用。“信息茧房”和“算法圈养”的盛行,“算法操纵”和“计算政治”的兴起,“算法妨害”对人潜移默化的长期诱导,情境塑造、信息污染和认知欺骗等“认知作战”的持续升级,都表明我们必须正视基于影响作用的权力现象。这种基于影响的权力有时比基于支配的权力甚至更为关键。“算法权力”的认知方式能够使我们充分考虑算法中包含的影响作用,拿出体系化的应对思路,全方位发现、约束和限制可能侵害个人权益和公共利益的算法影响作用,进而形成系统治理算法公共风险、促成算法向善的制度方案。这种新的视角对于算法治理机制及相关法律制度的建构、发展与革新殊为必要。

  第二,以规范算法权力为首要立足点,有助于充分理解算法的公共属性。选择首先立足“算法权力”,是因为从规范算法权力入手,能够深入揭示某些算法的公共性,为算法治理提供法理依据和方略。“算法权力”的认知方式凸显了算法影响的公共性。许多大型算法应用面向全国乃至全球范围内的用户和公众施加影响,算法推荐、深度合成、智能屏蔽、自动化公共决策等应用已经深刻影响网络生态和公共舆论;生成式人工智能更开始改变整个公共领域的互动结构。精心设计的算法应用已经可以改变重要选举走势、设置重大舆情议题或影响公共决策。大型算法模型借助平台的“社会权力”,往往以既有共性又有个性的“一对多”方式发挥作用,成为现代社会生活和公共领域中举足轻重的关键因素。在许多场合下,个体的自由意志对于此种算法作用的发挥只有非常有限的抵抗能力,而大型平台的算法应用不仅可以在较大范围内向相对人或用户施加自身的意志,还可以通过精心设计和筛选的内容推送和互动机制影响、干扰甚至塑成对方意志的内容,导致意思自治的失效和个体自主性的弱化。在此种意义上,我们就不能单纯从私权层面考虑算法治理的法理图式和基本方案,而“算法权力”层面的思考则会带来更直接、更有力的启发。

  选择首先立足“算法权力”,也是因为从规范算法权力入手,能够更加清楚地直面算法影响作用的公共风险。平台算法的影响力往往会产生超出私主体之间社会交往的外部性,产生了新的公共风险,甚至催生了“计算宣传”和“认知战”等新型公共活动方式,大幅度由私人领域迈入公共领域,国家干预亦由此而不可避免。对于生成式人工智能大模型而言,由于其正日益成为经济发展和社会生活的“底层技术”,算法模型秉持的价值观、选择接纳的信息和提供的输出结果将广泛而深刻地影响亿万用户的思想和行为。以规范算法权力为首要立足点,有助于充分承认和分析算法影响作用的公共性,推进对相关算法应用公共风险的全方位认识,也有助于公法干预正当性的证立,保护难以被权利化的公共利益和安全法益。

  第三,以规范算法权力为首要立足点,有助于找准和优化算法治理思路。选择首先立足“算法权力”,是因为从规范算法权力入手,能够最有效地控制算法风险的发生进程。算法权力镶嵌在算法本身的运行机理中,是算法治理最直接的切入点。算法本身不是权力,但某些算法模型本身天然地蕴含着权力。如果说权力意味着一方主体可以无视对方意志的反对而将自身的意志加诸对方,许多算法模型已经能够通过精心设计的机制实现这一目标,而并不必然需要借助强制性的手段。以算法推荐为例,算法推荐经常带有强烈的营利或宣传目的,为了更好地实现推荐目标,还经常有设置了特定竞技指标(如用户黏性、付费意愿等)的算法推荐比赛。从众多算法设计中“杀出重围”的许多推荐模型正是影响、引导甚至塑造用户和公众意志的利器,模型中的各种注意力头、权重矩阵、激活函数等就是有关主体面对用户和公众实现其意志的精准推手。如果从操纵、诱导、暗示、欺骗、感染等影响作用理解算法权力,可以发现算法权力的生发机制深嵌于算法模型之中,与模型设计、训练与运行的过程和模型中的海量参数紧密关联。这是许多算法风险发生的根源。在这个意义上,关注算法权力的实现过程和机理,很大程度上就几乎等同于捕捉到了算法风险发生的逻辑,进而有机会针对关键环节“对症下药”,根据算法产生影响的技术原理和风险生成路径精准选择治理方案。

  选择首先立足“算法权力”,也是因为从规范算法权力入手,更便于实现“穿透式监管”。在许多情形下,事后的侵权救济往往鞭长莫及或姗姗来迟,事前和事中的及时干预十分关键。从规范算法权力入手,着眼算法权力的实现过程和风险生成路径,就能够保持算法治理的穿透性,进而运用规范和约束算法风险的各种工具,包括算法备案、算法审计、算法透明、技术标准、监管接口、算法可解释性、算法影响评估等,引导算法模型设计和训练中的意志表达,深入优化算法治理思路,实施更及时、更精当的算法治理。

  第四,以规范算法权力为首要立足点,有助于引入和革新公法治理体系。选择首先立足“算法权力”,是因为从规范算法权力入手,能够强化公法规则和原则的适用。紧扣“算法权力”的特性,聚焦公共机构和大型平台某些算法应用发挥影响和作用的过程,就可以针对性地运用规范类似权力的规则或原则。在算法治理实践中,我们已经逐渐以一种类似行政法治的方式规制算法权力的滥用,对公共机构和平台企业提出了一系列制度性要求:要求公示部分算法服务的基本原理、目的意图和主要运行机制,要求对用户权益产生重大影响的原因作出说明,要求确保服务的公平公正、不得利用算法实行差异化定价和“算法歧视”,要求政府、企业、社会、网民等多方主体共同参与算法治理,等等。这表明以算法权力的运行过程和作用机理为立足点,可以使算法治理过程适度引入公法治理体系、容纳更多的公法元素,既防止相关算法服务提供者“遁入”私法关系之中而逃避本应承担的义务和责任,更从公共利益和共同福祉的高度促成算法服务提供者“为善去恶”。

  选择首先立足“算法权力”,更是因为“算法权力”的认知方式有利于公法理念和制度的变革,进而促成算法时代法治建设的变革与进步。面对源于算法公共影响的新型权力现象,公法理念和学说亦需要随之变革和扩展。例如,面对行政主体作出的判断和决定,行政过程中相对人可以享受正当程序的保障:行政主体作出与相对人利害关系密切相关的判断或决定前,应当告知相对人拟作出的处理,并听取相对人的陈述和申辩。然而,如果是公共算法系统作出的判断或决定,机器又如何有效听取陈述和申辩呢?将传统的正当程序扩展为“技术性正当程序”就可以一定程度上解决这一问题:法律制度可以要求自动化系统保留每一决定的“审计轨迹”,以辅助行政机关向当事人说明理由;相对人有权就自动化决策向行政机关的有关工作人员进行陈述和申辩,后者应接受专门培训以了解相关自动化系统的运行原理,能够详细说明该行政机关如何依赖自动化系统作决定,能够根据审计轨迹有效分辨相对人的陈述和申辩是否有道理。如果没有深刻认识到算法系统中包含的权力因素和算法决策所蕴含的权力运行方式变迁,不从算法权力的视角切入,就很有可能忽略正当程序理念和原则的必要发展。同理,只有充分承认和深刻认识“算法权力”,才能在算法时代有效发展、扩充和革新公众参与、说明理由、听证等制度,在公共机构和大型平台算法决策中有效嵌入程序公正、禁止歧视、促进算法向善、保护人的主体性地位等价值理念,形成算法治理(尤其是算法公共风险治理)的系统性方案。

  因此,算法治理需要优先立足规范算法权力。当然,这绝不意味着保障算法权利无关轻重。规范公共机构和平台的算法权力,在相当程度上也是为保障用户、相对人乃至公众的算法权利服务。千里之行,始于足下。我们唯有在规范算法权力上脚踏实地、尺步绳趋,才能在保障算法权利和完善算法治理的征途上行稳致远。 

  (作者系中国人民公安大学法学院教授)



责任编辑:谭则章
本站系非盈利性学术网站,所有文章均为学术研究用途,如有任何权利问题请与我们联系。
^