构建智能社会的法律秩序
作者:张文显,中国法学会学术委员会主任,吉林大学哲学社会科学资深教授,浙江大学国家制度研究院首席科学家。
上海市法学会
内容摘要:人类社会的法律秩序历经以土地为中心的农业社会法律秩序、以市场为中心的工业社会法律秩序、以网络为中心的信息社会法律秩序,而随着智能社会的到来正在转型为以算法为中心的智能社会法律秩序。以大数据、云计算、互联网、区块链、人工智能为主体的智能科技所催生的“数字化”“网络化”“智能化”革命,对现行秩序造成严重冲击和挑战,同时也为构建新秩序注入了强大动能。构建以科学、人本、公正、包容、共治为核心要素和鲜明标识的法理型法律秩序,是破解智能社会“治理赤字”的当务之急,也是智能社会行稳致远的根本保障。
关键词:智能社会治理 智能算法 治理赤字 信息社会 数字人权 法理型秩序
智能社会的到来极为迅速,我们几乎没有做好准备。智能社会充满生机和希望,也充斥着风险和挑战。在各种风险之中,最突出的是法律规制失灵;在各种挑战当中,最严峻的是法律秩序失调。规制失灵、秩序失调集中表现为“治理赤字”,即现行的治理体系、治理规则、治理能力、治理技术已不能有效应对现代智能科技的全方位挑战,以致出现失控失序甚至危及公民权利、社会福祉、公共秩序、国家安全、全球和平的严重态势局面。面对风险和挑战,我们无路可退,唯有勇于面对,以人类智慧破解治理难题。构建以科学、人本、公正、包容、共治为核心要素和鲜明标识的法理型秩序,是破解智能社会“治理赤字”的当务之急,也是智能社会行稳致远的根本保障。
一、秩序与人类社会法律秩序形态
(一)秩序和法律秩序的概念
对于任何社会而言,建立和维护安定的社会秩序,都是首要的的治理目的和价值目标。秩序是人类社会生活中一个基础性概念,在法律价值体系中位居首位。从相对抽象层面理解,秩序意味着某种程度的关系的稳定性、结构的一致性、行为的规范性、进程的连续性、未来的可预测性;从具体层面理解,意味着人身权、人格权、财产权的安全性。英国社会学家科恩将“秩序”的主要意义和规定性概括为:第一,“秩序”与社会生活中存在一定的限制、禁止、控制有关;第二,它表明在社会生活中存在着一种相互性,即每个人的行为不是偶然的和杂乱的,而是相互回答或补充他人行为的;第三,它在社会生活中捕捉预言的和重复的因素,即人们只有在他们知道彼此期待的情况下,才能在社会上进行活动;第四,它能够表示社会生活各组成部分的某种一致性和不矛盾性;第五,它表示社会生活的某种稳定性,即在某种程度上长期保持它的形式。马斯洛认为秩序的核心是安全:“在我们的社会中,成年人一般都倾向于安全的、有序的、可预见的、合法的、有组织的世界;这个世界是他所能依赖的,而且在他所倾向的这个世界上,出乎意料的、难以控制的、混乱的以及其他诸如此类的危险事情都不会发生。”美国法学家博登海默认为秩序概念“意指在自然进程和社会进程中都存在着某种程度的一致性、连续性和确定性”。马克思在《资本论》中指出,秩序是一定的物质的、精神的生产方式和生活方式的社会固定形式,因而是它们相对摆脱了单纯偶然性和任意性的形式。
秩序是与无序、脱序、失序等相对的概念。无序、脱序、失序,意味着关系的稳定性和结构的一致性变得模糊以致消失了,行为的规则性和进程的连续性被打破或断裂了,社会生活遭到偶然的、不可预测因素的侵入,人们失去了合理预期和安全感。为避免或制止无序、脱序、失序引发的各种社会危机和灾难,人类必须采取措施。而法律就是防范无序、制止脱序、补救失序的首要的、常规的手段。法律是秩序的象征,又是建立和维护秩序的手段,用法律建构和维护的社会秩序就是法律秩序。
在法理学范畴体系中,法律秩序有两个基本含义:其一,由法律建构起来的社会秩序,即依据法律对社会实施有效治理所形成的社会秩序。其二,法律运行的秩序,即立法、执法、司法、守法过程中所形成法治秩序。笔者所论的“法律秩序”聚焦于前一种意义的法律秩序,且兼顾第二种意义的法律秩序。
(二)人类社会法律秩序的既有形态
进入文明社会以后,人类法律秩序形态几经演进或变革。对此,许多思想家都有研究和概括。例如,德国思想家、社会学家韦伯根据社会秩序的合法性(正当性)基础把人类有史以来的政治社会秩序划分为三种类型,即“传统支配型”“卡理斯玛支配型”和“法制支配型”。传统支配型是以传统为其合法性(正当性)基础,人们确信渊源悠久的传统之神圣性以及根据传统习俗支配的合法性(正当性),对支配者的服从是基于传统所认可的支配地位。卡理斯玛支配型是以“卡理斯玛”(超凡人格魅力)为合法性(正当性)基础,人们对支配者个人及他所启示或制定的道德规范或社会秩序之超凡性、神圣性、其英雄气概或非凡特质的献身和效忠精神表示认同、确信和崇拜。法制支配型是以理性为其合法性(正当性)基础,人们确信法令、规章必须合于法律,以及行使支配者在这些规定之下有发号施令之权力。在法制型支配中,一个人之所以服从是由于其服膺依法制定的客观的、非人格化的秩序,其也因此服从因正式法律而占据某项职权、行使支配的人,但服从范围仅限于该职位的管辖权。支配者自身也得服从于一套无私的法令和程序。而人们普遍服从的法律和秩序又是以目的合理性(价值合理性)为目标制定和形成的。在他看来,法制型支配秩序是现代国家的标本。
美国法社会学家塞尔茨尼克和诺内特以法律与社会的关系为参照,把法律秩序划分为压制型法、自治型法、回应型法三种类型。压制型法律秩序以封建专制国家的法、独裁政权的法、警察国家的法制为典型,法律被视为国家、权力、政治的工具,是用来压制社会的。自治型法律秩序以资本主义法为典型,法律被视为是自洽自足的,完备的法律规则(例如法国民法典、德国民法典等)、法律程序(各种各样的程序法律)可以保证法律自主有效地规范社会行为和调整社会关系。回应型法律秩序则体现为社会变革时期的法律秩序,法律不是消极、被动地因应社会,而是积极地、能动地回应社会,法律既保持自主的稳定性又具有能动的开放性,法律的实施机关更是顺应社会变革潮流而富有弹性地解释和适用法律。
对人类社会发展规律和国家与法的本质规律把握最透彻的当属马克思和恩格斯。他们认为:“法的关系正像国家的形式一样,既不能从它们本身来理解,也不能从所谓人类精神的一般发展来理解,相反,它们根源于物质的生活关系。”对于法律制度和法律秩序,“只有理解了每一个与之相应的时代的物质生活条件,并且从这些物质条件中被引申出来的时候,才能理解。”运用马克思主义的历史唯物论,把生产力、生产关系、经济基础和社会形态作为观察法律秩序演进和变革的标准,人类社会既有的法律秩序可以划分为以下几种:
一是以土地为中心的农业社会法律秩序。作为劳动对象——土地的出现是人类文明的重要标志。在农业社会时代,土地几乎是唯一的生产资料,加上生产能力和效率低下,人们只能在狭隘的、孤立的范围内生存和发展,社会生产方式集中表现为自然经济。人们直接从土地耕作中获得生活资料并直接满足劳动者本人及其亲属的需要,那时,比较典型的生产关系是一家一户、男耕女织、自给自足。与这种生产关系相适应,人际关系表现为长幼等差、男女有别的宗法关系,表现为人身依附和服从,父系家长、族长在生产和消费中处于绝对支配地位,其他成员则是作为附庸或被支配的对象而存在,即子从父、妻从夫、家从族。自然经济是一种封闭经济。在自然经济条件下,人们做着差不多同样的事情,产品几乎不离开他们的手,他们既是生产者,又是消费者,生产者之间互相隔离,而不是互相依赖和互相交往,不能形成一股有组织的正式力量。“他们不能代表自己,一定要别人来代表他们。他们的代表一定要同时是他们的主宰,是高高站在他们上面的权威,是不受限制的政府权力,这种权力保护他们不受其他阶级侵犯,并从上面赐给他们雨水和阳光。所以,归根结底,小农的政治影响表现为行政权力支配社会”。而法律秩序则是以维护家庭和宗法等级制度为核心价值和主要功能。
二是以市场为中心的工业社会法律秩序。工业革命后,新的生产部门和行业不断涌现,工业、农业、商业内部的分工迅速发展,生产力获得空前提高,市场经济取代自然经济成为社会经济的基本形式,并覆盖社会经济生活的一切领域。在这种生产方式之下,生产是为了交换,产品需要转化为商品,商业成了社会财富的泉源。由此,形成了“普遍的社会物质变换,全面的联系,多方面的需求以及全面能力的体系”,即形成了以劳动分工和专业化为基础、以商品和劳务市场为中介的社会成员之间的相互依存关系,市场成为人们赖以生产和生活的生命线。与这种经济关系和社会关系相联系,形成了以所有权为核心的财产权利体系,社会成员成为权利主体,连一贫如洗的工人也成了自己劳动力的所有者。商品经济、市场经济的发展从社会关系上否定了血缘、门第、种族、民族、宗教、语言等差别所造成的权利不平等,促进了以自由、平等、产权为化身的市场秩序和以市场秩序为核心的现代法律秩序。
三是以网络为中心的信息社会法律秩序。信息革命让人类进入了信息社会,其主要标志就是互联网的出现及其快速普及使用,因此也被称为“网络社会”。由于互联网中信息的载体是数据,信息的交互依靠数字技术,因而也有“数字社会”的称谓。进入21世纪以来,信息技术日新月异,从以网站到用户的单向信息分享为主的Web 1.0阶段发展到以用户贡献内容为主、以协同创作为代表的Web 2.0阶段,并开始探索更为智能化的Web 3.0技术,信息网络也从桌面互联网发展到移动互联网,人类生活和生存对互联网特别是移动互联网高度依赖,越来越多的平民百姓通过互联网生产生活、买进卖出、结识好友、交流情感、表达自我、学习娱乐,开启了人类在信息空间中的网络化生存方式。互联网信息交流、移动通信、社交媒体、网络支付等已经成为人们生存条件和生存能力,人类对信息网络的依赖性越来越大。特别是随着“互联网+教育”“互联网+医疗”“互联网+文化”“互联网+法治”等的融合,人类已经进入一个崭新的秩序领域,即由法律和技术构建的以互联网为中心的法律秩序。在这种新的秩序形态之中,物理世界的社会分散化,电子世界的社会紧密化,社会关系日益简约,社会结构得以重组,法律关系形式转换,法律运行方式发生革命性变革,信息共享和信息保护成为这一秩序的价值重心。
(二)正在形成的以算法为中心的智能社会法律秩序
进入21世纪以来,人类社会的发展呈现出加速变革的态势,大多数人还没有完全适应信息社会,甚至一些人还没有适应工业社会,就被迅速地推入智能社会。大数据、互联网、云计算、人工智能等智能科技的融合发展、广泛运用,物联网、区块链脱颖而出,空前地改变着人类社会的生产、生活、生存、学习、行为等方式,甚至改变着国家的治理体系、治理体制和治理能力,改变着政府的决策程序和实施机制,改变着法律体系及其运行方式,塑造着一个全新的智能社会。欧洲专利局首席经济学家梅尼埃(Yann Ménière)指出,在大数据、云计算、区块链、互联网、物联网、人工智能等前沿技术的综合发展融会运用之下,第四次产业革命正朝向“超级软件”发展。这种超级软件的核心就是算法,是各种信息技术有机结合、广泛运用和创造丰富多彩的无限价值的关键。虽然智能社会是借用“智能”来命名,但驱动人工智能的却是“算法”,而“算法”的来源、输入、对象和价值则是数据。随着信息技术的发展,万事万物、社会运行的每一个部分都可互通互联,并提供海量多样化的数据供智能算法分析处理;智能算法的预测和决策则可以直接控制物理设备,亦可对个人决策、群体决策乃至国家决策提供辅助支撑,带来了智慧家居、智慧交通、智慧医疗、智慧工厂、智慧农业、智慧城市等诸多领域的发展,为我们描绘出智能社会的景象,深刻地影响着人们认识世界和改造世界的能力,勾勒着人们生活和社会组织形态的可能边界。决定智能社会性质特征是以算法为中心、以数据为先导、以区块链和人工智能为集成、以互联网和物联网为链接的当代科学技术。由此,智能社会本质上是一个“算法泛在”并由算法主导的社会。
把算法作为主导智能社会及其法律秩序的核心,其科学逻辑和法理依据在于算法在智能社会是最具影响力和标志性的先进生产力,是对智能社会具有全方位决定性意义的超级力量。
首先,算法是智能产品的灵魂与创造者。我们身边已经日益涌现各类智能产品,例如个人手机上的智能助理、智能翻译,安防领域的智能门禁、智能监控,交通领域的导航软件、自动驾驶汽车,健康领域的智能诊断,电商领域的智能导购、机器人客服等等。在诸如此类形形色色的智能产品中,算法是其灵魂,是创造者。如果说智能产品是社会生产力的标志,那么,算法则是先进生产力的代表者。
其次,算法是智能社会最重要的生产工具。一方面,在当前人工智能的发展阶段中,在数据和算力的支撑之下,深度学习等机器学习算法取得了卓越的效果。上述包含算法的智能产品中,相当多的算法并不完全是由人手工编写及确定参数的,而是人类编写的机器学习算法,在经过海量数据训练之后,确定了最终在产品中运行的算法的形态和参数。机器学习是一种可以产生算法的算法。可以说,如果离开作为重要生产工具的机器学习等算法,具有高度准确率的图像识别等算法产品至今也无人能制造出来。以著名人工智能科学家李飞飞公布的一个深度神经网络模型为例,该模型算法约有1亿4千万个参数,150亿个连结。只有依靠对机器学习算法的运用,才能完成对这样参数庞大的图像识别算法的开发。另一方面,许多生产经营活动中已经普遍运用算法来进行高效的数据分析、实时的资源匹配、多样的个性化服务。一些传统上由人类完成的基础工作也开始采用智能算法来辅助完成。例如,Uber、滴滴等企业都开始布局自动驾驶的接送服务。再如,腾讯的新闻写作机器人Dreamwriter可以在股市结束后两分钟内发布对股市情况的分析文章。今日头条运用算法推荐新闻。生产工具是生产力发展水平的标志。马克思曾指出:“各种经济时代的区別不在于生产什么,而在于怎样生产,用什么劳动资料生产。劳动资料不仅是人类劳动力发展的测量器,而且是劳动借以进行的社会关系的指示器。”
第三,算法深刻影响智能社会的生产关系、社会关系和法律关系,人类正在悄然进入“算法社会”。越来越多的实例表明算法对生产关系、社会关系和法律关系正产生着巨大影响。例如,自动驾驶汽车、智能机器人的发展引起的主体地位、责任分配等问题的讨论直接体现了智能算法对社会关系的影响。再如,近年来共享经济、新零工经济的兴起,智能算法起着重要的信息、资源实时动态匹配作用,引起了劳动关系的大幅变化,也引起了新型的公平竞争问题。智能算法的发展,使得在著作权等领域法律的算法辅助实施成为可能,我国司法解释和多项法院判决中表明是否采用了适当的算法是决定平台应否承担共同侵权责任的一项重要考虑因素,这在国际上也形成了比较明显的趋势,并由此引发对平台法律地位的重新探讨,以及对“算法权力”的规制问题的讨论等等。
算法的运用产生了一系列法律和社会治理问题,有力地推动法律制度和治理体系变革。作为风险制造者的一方(主要是企业)具有强大的谈判能力,作为主要的风险承受者的社会公众,缺乏风险识别能力、谈判能力和自我防控能力、救济能力,对自己行为带来的影响缺乏认识,因此,引发社会公正治理问题。高度的信息不对称导致意思自治的基石被动摇,算法在市场资源分配中的作用越来越明显、影响越来越深刻,致使工业时代确立起来的市场经济的制度基石需要重新审视。这些正反两个方面的实例都表明算法已经渗透到智能社会的各个方面,正在广泛而深刻地影响社会关系及其法律关系。
最后,算法广泛运用于国家治理和社会治理当中。在宏观经济决策、民生保障体系建设、舆情分析、平安数据分析、世界局势研判等方面,算法功不可没。算法原理不仅适应于科技工程领域,也完全适用于政治社会领域,算法作为一种特殊程序、指令和逻辑,正在从科技之“法”转化为社会之“法”,从“软法”发展为“硬法”。随着算法理论和方法向治理领域的延伸,国家和社会治理的科学化、程序化、智能化日渐显现,现代化的算法思维方式正在与法律思维和法治思维融合而形成为治国理政的程序思维、智能思维、法理思维。随着社会信息化、数字化变革,算法在创新国家制度体系、助力国家治理现代化中将发挥巨大作用。
综上所述,算法是智能社会重要的生产要素,是生产力发展水平的重要标志,对生产关系、社会关系和国家治理产生着显著影响。智能社会的法治建设,既要促进生产力的发展,保障算法的创新发展和融合运用;也要关注其对于生产关系和社会关系的变革作用,予以必要的调整。同时,当前算法对公众具有的神秘性、不透明性、歧视危险性、运算结果难解释性以及算法软件和平台的易受攻击性,致使算法的数据搜集、集成、识别、分类、传输、运用、预测和决策充满变数甚至冲击道德伦理底线。鉴于此,我们也必须加强对算法的法律规制,特别是要加强对算法规则的合法性审查,以生成合理的法权关系,让算法合乎法理、用法理引导算法、以法律规范算法,构建促进和保障人民美好生活的法律秩序。
二、构建科学、人本、公正、包容、共治的法律秩序
由于智能社会来得突然,我们还没有做好迎接它的准备,致使社会的很多领域出现失序和无序问题,国家治理和社会治理出现“治理赤字”,构建智能社会法律秩序就显得十分必要、十分紧迫。那么,我们如何把算法主导的智能科技及其社会影响纳入法律调控之中,构建智能社会法律秩序呢?笔者认为,智能社会的法律秩序包含五个核心要素,即科学、人本、包容、普惠、共治,五个要素交融形成法理型社会秩序。
(一)科学
科学是智能社会法律秩序的第一要义,是法治现代化的题中应有之义。与以往的法律秩序不同,当下的立法是为智能科技、智能社会立法,以调整科技关系、规范科学行为、引导技术进步、促进科技与经济社会协调发展,实现“科技让生活更美好”的目标。智能社会是科学带来的,我们确立法律秩序更要“讲科学”,坚持“科学立法”,尊重科学技术创新、顺应科技发展规律、探索智能化社会的经济社会发展规律,把法律秩序建立在科学认知和规律真知的基础之上。毛泽东同志在主持制定《中华人民共和国宪法》的时候指出,“搞宪法是搞科学”,强调以科学的态度和科学方法起草宪法文本。近年来,习近平总书记也指出,推进科学立法、民主立法、依法立法,是提高立法质量的根本途径,“科学立法的核心在于尊重和体现客观规律”。
智能社会的客观规律和基本特征有以下几个方面:
第一,智能社会是科技赋能型社会。智能社会的活力和生机在于科技创新,科技不仅成为第一生产力,而且成为人民福祉的重要来源,是社会发展和文明进步的第一推动力。2017年我国国务院发布的《新一代人工智能发展规划》作出科学判断,指出:“人工智能成为国际竞争的新焦点。人工智能是引领未来的战略性技术,世界主要发达国家把发展人工智能作为提升国家竞争力、维护国家安全的重大战略。”是故,法律要以激励和保护大数据、云计算、区块链、互联网、物联网、人工智能创新发展为首要原则,推进中国智能科技占领世界科技的制高点。在智能科技的规律还没有完全展现出来、智能科技对经济政治文化生态的影响尚无法做出科学评估的情况下,不要过分担忧智能科技的负面影响,而误用规则阻碍了它的发展进步。在这个问题上,必须始终解放思想,牢固树立发展是硬道理的理念,秉持“包容审慎”的态度。
第二,智能社会是易于流变的社会。可谓日新月异,一切都在快速改变中。既往的社会形态,例如农业社会,上千年没有显著变化;工业社会上百年、数十年没有根本性变化,所以法国民法典有效实施了二百年,德国民法典有效实施了一百多年;而信息社会、智能社会,则是十几年、几年一个样。例如,作为智能社会支柱之一的移动通信,在过去50年间已经发生了从1G到2G、3G、4G的革命,目前已经开启了5G时代,一些国家和企业已经开展面向6G的研发和布局。再如,从信息技术融合应用角度来看,以相对传统的司法系统为例,我国法院系统在20世纪90年代后半期才开始信息化建设,而近几年已建立起汇集了9千多万篇文书的中国裁判文书网,建设了互联网法院,开展了智慧法院建设。2019年全国97.8%的法院支持网上立案,其中高级法院达到100%。新冠疫情期间,许多法院开展了在线庭审。面对异常迅猛的科技发展和社会变化,法律应接不暇,刚刚制定或修改的法律马上就不管用了,法律的稳定性优势难以维持。应对智能社会的易变特征,立法必须具有一定的前瞻性、适度的超前性,立法和修法要提高效率。更重要的是法律模式要创新,法律要更加开放和兼容,给其他规则的出现和使用留有更充分、更方便的接口,让司法通过法律解释、自由裁量等能动方式承担一定的应对社会变化的“造法”功能。
第三,智能社会是风险变数最大的社会。风险丛生、风险叠加、风险度高是智能社会的显著特征。智能科技在带给人类巨大进步与福利的同时,也带来了不可忽视的风险,诸如科技异化风险、网络暴力风险、算法歧视风险、非法移动跟踪风险等,这是人人都可感知并时常遭遇的普遍风险。在传统社会,很多风险是个别性、局部性、偶然性的,而在信息社会和智能社会,大多数风险具有快速蔓延性、急剧增强性。而同时,个人甚至群体对于风险的识别能力、预防能力、控制能力严重不足,这就很容易演变为大规模公共风险。科学家们早就提醒人类对科技的严重风险要有清醒的认识。例如,英国科学家贝尔纳在《科学的社会功能》中指出:“科学技术的发展本身既为我们揭开了改善人类生活的前景,也为我们开辟了毁灭人类的可能性。”美国科学家霍金甚至断言:“人工智能的成功有可能是人类文明史上最大的事件。但是,人工智能也有可能是人类文明史的终结。除非我们学会如何避免危险。”著名企业家马斯克也指出,当前对人工智能的学习速度可能有所低估,需要密切监管以防止其成为“严重的公共危险”,需要建立起监督机构,人工智能之危险尤甚于核武器。习近平总书记更是多次提醒我们:“要加强人工智能发展的潜在风险研判和防范,维护人民利益和国家安全,确保人工智能安全、可靠、可控。要整合多学科力量,加强人工智能相关法律、伦理、社会问题研究,建立健全保障人工智能健康发展的法律法规、制度体系、伦理道德。”应对智能科技带来的风险,法律必须挺身而出。
第四,智能社会是全球化时代的社会形态。全球化与信息化、智能化属于同一个时空,20世纪60年代互联网的诞生既开启了全球互联的信息化时代,也开启了信息交互的全球化时代。进入21世纪之后,全球化的速度进一步加快,正在有力地改变以至颠覆人类的生产方式、生活样式、文化形态、思维方式和行为方式,也深刻地影响着人类社会的经济制度、政治制度、法律制度、治理体系。全球化深入发展,把世界各国利益和命运更加紧密地联系在一起,形成了你中有我、我中有你的利益共同体,尤其是在智能科技领域全球化早已成为新常态。智能科技的很多问题不再局限于一国内部,很多挑战也不再是一国之力所能应对,全球性挑战需要各国通力合作。网络安全、数据安全、人工智能安全、区块链陷阱等方面的法律规制均需要国际思维和国际协调。全球化必然把科技竞争从国内带向国际、从区域带向全球,这就必然引起世界范围内数字鸿沟、两极分化、治理赤字、秩序危机等问题,使发达国家和发展中国家都感受到压力和冲击。因此,国际上出现了“反全球化”“逆全球化”的舆论和思潮,一些守成大国甚至动用政策和法律打压我国智能科技企业和研究机构,遏制我国在5G、人工智能等高科技领域的发展。在这种情况下,我们必须以辩证思维和全球思维分析利与弊、机遇与挑战,坚决维护公平竞争的国际规则体系和市场秩序,并以法律反制对我国智能科技的打压。同时,我们也应当以诚信和自信进一步加强知识产权保护,提高科技研发和运用的原创性、透明度、开放度,接受技术评估、产权识别和安全审查的国际合作,努力使国内治理与国际治理有效衔接、相辅相成。
(二)人本
以人为本是法治的灵魂。以人为本,其核心要义在于一切从人出发、以人为中心,把人作为观念、行为、制度的主体,把人的独立、人的尊严、人的自由、人的感受、人的全面发展作为智能社会法治建构的终极关怀。以人为本是一个西方哲学命题,也是根植于中华传统文化和当代中国实践的社会理念。习近平总书记将其转化为具有时代性、现实性和感召力的政治法律命题,提出“人民至上”“以人民为中心”“以人民为主体”,强调法治建设“为了人民、造福人民、保护人民、依靠人民”,从而阐明了这一命题的法理精义和时代内涵。以人为本是法治文明的灵魂,智能社会的法治建构更要以人为本。智能技术把人的社会划分为现实社会与虚拟社会,将人的世界从物理世界延伸至数字世界,人脸识别、智能家居、自动驾驶、智慧医疗等新技术发展便利了人的生活,甚至代替了人的部分劳动。在这种情况下,我们必须要更深刻系统地认识到人的价值,认识到人始终是发展的目的,由算法支撑的智能社会依然是“人的”社会而不是“物的”社会。具体而言,构建以人为本的智能社会法律秩序,就是以人的权利为本,把权利保护和人权保障作为智能社会法律秩序的核心要义。
一是个人信息(信息权)保护。“个人信息”,是指以电子或者其他方式记录的能够单独或者与其他信息结合识别特定自然人身份或者反映特定自然人活动情况的各种信息,包括姓名、身份证件号码、通信通讯联系方式、住址、账号密码、财产状况、健康信息、行踪轨迹、手机短信、微信聊天记录等。滥采个人信息、窃取个人信息、非法倒卖个人信息,已经成为智能社会的公害。我国已经注意到互联网企业、平台公司等侵犯个人信息的严重情况,并采取立法加以规制和惩罚,加强保护公民个人信息安全。民法典第111条规定:“自然人的个人信息受法律保护。任何组织或者个人需要获取他人个人信息的,应当依法取得并确保信息安全,不得非法收集、使用、加工、传输他人个人信息,不得非法买卖、提供或者公开他人个人信息。”网络安全法第44条规定:“任何个人和组织不得窃取或者以其他非法方式获取个人信息,不得非法出售或者非法向他人提供个人信息。”第43条规定:“个人发现网络运营者违反法律、行政法规的规定或者双方的约定收集、使用其个人信息的,有权要求网络运营者删除其个人信息。网络运营者应当采取措施予以删除或者更正。”但是,当下个人信息被滥采滥用的情况仍没有得到遏止,个人信息保护的局势依然严峻,立法机关正在总结现有立法实施情况和司法经验,针对互联网、大数据、人工智能的新特点、新情况,研究如何进一步完善个人信息保护的法律制度,调整后的2020年度全国人大常委会立法工作计划已经将“个人信息保护法”纳入规划,并将在今年进行一审。我们期待着新的立法能够在确保公民个人信息安全和生活尊严方面有更严格的刚性规定和更有效的实施。必须认识到,个人信息保护客体既是个人利益、也是公共利益,是社会运行的底线,是国家文明的硬核,对公民个人信息的采集和使用,必须秉持善意、经得许可、有限取得、合理使用,防止擅自过度采集和滥用,严禁盗取和非法利用他人信用数据。
值得注意的是,尽管个人信息保护的必要性已取得了社会共识,但民法典中并未明确规定“个人信息权”,这在一定程度上体现了对于个人信息保护的性质、范围及路径的争议和持续探索。个人信息保护与隐私权保护息息相关,但个人信息却又不完全等价于隐私。一方面,需要从体系化的角度考虑有效保护个人信息的最佳路径;另一方面,要重视信息流通的社会公共价值,在保护个人信息的同时,要注意对信息流通不必要的阻碍问题。例如,对个人信息进行高标准法律保护的欧盟亦高度重视数据的流通,在《通用数据保护条例》(GDPR)生效之后,于2018年10月通过了《非个人数据自由流动条例》,与GDPR相互补充,以促进欧盟境内的数据流通,保障欧盟数字经济的发展。
二是公民人格权保护。人格权是公民的基本人权,也是重要的民事权利。我国宪法以崇高的人权精神把人格权作为公民基本权利加以规定,第37条规定:“中华人民共和国公民的人身自由不受侵犯。任何公民,非经人民检察院批准或者决定或者人民法院决定,并由公安机关执行,不受逮捕。禁止非法拘禁和以其他方法非法剥夺或者限制公民的人身自由,禁止非法搜查公民的身体。”第38条规定:“中华人民共和国公民的人格尊严不受侵犯。禁止用任何方法对公民进行侮辱、诽谤和诬告陷害。”第39条规定:“中华人民共和国公民的住宅不受侵犯。禁止非法搜查或者非法侵入公民的住宅。”第40条规定:“中华人民共和国公民的通信自由和通信秘密受法律的保护。除因国家安全或者追查刑事犯罪的需要,由公安机关或者检察机关依照法律规定的程序对通信进行检查外,任何组织或者个人不得以任何理由侵犯公民的通信自由和通信秘密。”民法典专设一编加强对人格权的法律保护。民法典第990条从民事立法的角度对人格权进行了法律界定,这也是我国法律首次明确界定人格权,规定“人格权是民事主体享有的生命权、身体权、健康权、姓名权、名称权、肖像权、名誉权、荣誉权、隐私权等权利”以及“自然人享有基于人身自由、人格尊严产生的其他人格权益”,并详细规定了各项人格权利的内容。针对利用信息技术手段“深度伪造”他人的肖像或声音、侵害他人人格权益、甚至危害社会公共利益等问题,民法典也作出了相关权利保护的规定。
保护个人隐私权在智能社会中无疑是最受人们普遍关注的。因为在智能社会中,依据个人行动等数据可以高精度推断其政治立场、经济状况、兴趣爱好、生活习惯、交往范围、生理缺陷等,这就很容易触及个人隐私。因此,美国、欧盟、日本等人工智能发达国家相继出台了相关法律、政令和伦理指导意见。例如,日本政府发布《以人类为中心的人工智能社会原则》,明确规定要谨慎对待个人数据:(1)对个人数据的使用,包括政府使用行为在内,不得侵犯个人自由、尊严和平等;(2)对个人数据中涉及隐私的部分,确保使用行为的正确性、正当性,以及本人能够实质性地参与,并从中得到适当益处;(3)个人数据必须根据其重要性和需求性得到妥善保护,基于文化背景和社会共同理念,把握使用和保护之间的平衡。我国民法典首次以法律形式界定“隐私权”,第1032条规定:“隐私是自然人的私人生活安宁和不愿为他人知晓的私密空间、私密活动、私密信息”,规定“自然人享有隐私权。任何组织或者个人不得以刺探、侵扰、泄露、公开等方式侵害他人的隐私权”。第1033条规定:“除法律另有规定或者权利人明确同意外,任何组织或者个人不得实施下列行为:(一)以电话、短信、即时通讯工具、电子邮件、传单等方式侵扰他人的私人生活安宁;(二)进入、拍摄、窥视他人的住宅、宾馆房间等私密空间;(三)拍摄、窥视、窃听、公开他人的私密活动;(四)拍摄、窥视他人身体的私密部位;(五)处理他人的私密信息;(六)以其他方式侵害他人的隐私权。”民法典关于“隐私”的界定和对隐私权保护的规定为每一个自然人授予了保护个人隐私、捍卫隐私权的法律盾牌。
三是数字人权保护。当今世界已经进入数字时代,中国正在加速建设成为“数字中国”。数字科技与社会生产和人民生活深度融合,数字科技的广泛使用已经成为人民生活、生存和发展须臾不可或缺的一部分。人类生活和生存对数字科技高度依赖,“数字化”“网络化”“智能化”成为新的生存方式和生活方式。在这种背景下,把对数字科技的掌握和运用奉为“权利”并将其归属于“人权”,提炼出“数字人权”概念,普及“数字人权”理念,既十分必要、甚为迫切,也顺理成章、水到渠成。
首先,在制度上强调科技企业尊重和保障人权的责任,以及政府尊重、保障和实现“数字人权”的义务。这种责任和义务,一方面表现为对公民(用户)数字化生活中隐私权、信息权、数据权、表达权、人格尊严等权利和自由的尊重与保护;另一方面也表现为对互联网基础设施及其他数字化设备的提供,尤其是对弱势群体所面临“数字鸿沟”的填补,以公共资源和集体行动确保社会成员平等、充分地享有接入互联网世界、过上数字化生活的条件和机会,进而真正实现其联网权和数字化生活权。
其次,以人权的规范性强化对数字科技开发及其运用的伦理约束和法律规制。针对数字科技的研发、运用和产品生产可能导致的人权风险,国家和相关行业应对其进行人权评估、审查和规制。国家机关将数字科技用作社会治理的手段时,应秉持尊重和保障人权的理念,将其局限于社会利益和公共安全所必需的限度内,并严格遵从法律所规定的范围和程序。在以数字科技驱动数字经济和数字社会的语境中,对科技研发公司的知识产权保护应恪守尊重公民隐私权、数据权、知识利益均享权等人权的原则和底线。
再次,推进人权和法治理论创新发展。进入21世纪以来,尽管有许多国家、国际组织、学术机构把与互联网相关的人权问题列入重要议程(如2017年6月27日联合国人权理事会通过一项决议《互联网上人权的促进、保护与享有》),但迄今尚未明确地提炼出“数字人权”概念,更没有赋予“数字人权”自主性的科学内涵。中国的数字科技水平位于世界前列,中国的数字科技运用能力更是领先于其他国家和地区。我们应该比其他国家或地区更加重视数字人权,也有能力以对“数字人权”的科学阐释和制度构建来引领新一代人权,引领国际社会的“数字人权”研究。
(三)公正
公正是法治的生命线。智能社会的法律秩序理应是最公正的秩序,公正在实践中体现为普惠、共享和制度正义。因而,公正的秩序也就是普惠性秩序、共享性秩序和正义性秩序。
人人平等、人人享有是智能社会建设和治理的基本原则。我国多个科技智库已经注意到人工智能等智能科技的普惠福利和普惠正义问题。2017年,中国科学院科技战略咨询研究院与腾讯研究院联合举办“2017人工智能:技术、伦理与法律研讨会”,会上明确提出要推进人工智能朝着普惠和有益的方向发展,确保算法设定公平、合理、无歧视;人工智能决策如果影响个人权益,应该提供救济途径;推动人工智能的效益公平分配,缩小数字鸿沟。
应当看到,以人工智能为代表的科技发展如不加以正确引导和有效规制,在创造财富和价值的同时,极有可能加剧贫富不均和社会分化。正如创新工场创始人李开复所说:“现有的人工智能产品正以超出大多数人想象的速度得到改进,很有可能让我们的世界发生根本性改变——不一定就是变得更好。它们只是工具,而非某种与人类竞争的智慧形式。但它们将重塑工作的含义和财富的创造方式,引发前所未有的经济不平等,甚至改变全球力量均势……人工智能正拓展至成千上万个领域,在此过程中,它会让很多工作岗位消失……这种转变将为开发人工智能以及运用人工智能的企业带来大量利润……人工智能给我们提供一个在全球范围内重新思考经济不平等的机会。”
目前,我们已经面临智能化发展不充分、智能科技运用不平衡的问题,这是我国社会主要矛盾在智能化方面的突出表现。例如,近期互联网、微信群和官媒热议的一种智能失衡和社会不公现象:一方面是社会越来越数字化、网络化、智能化,人们从智能科技中不断增加幸福感、获得感、悦享感;另一方面越来越多的老年人、残疾人、贫困人却被智能化淘汰,无法像常人一样衣食住行,不能乘坐公共交通,不能在超市购物,因为他们不会使用微信二维码,不会上网购物买票,不会网上预约医院,尤其是因不能获得健康码连自己的小区都不能进出。还有,疫情期间大中小学校普遍开设网课,集中优质教学资源开展教学,但是相当一部分地区网络质量差甚至没有网络,致使贫困落后地区的学生处在事实上的“失学”状态。我国智能科技领域一些领军企业和企业家已经注意到这些问题,纷纷提出了“普惠人工智能(普惠AI)AI战略计划”“友好型人工智能环境规划”,把人工智能作为人类的公共财富,把普惠、共享、公平等原则作为发展智能科技的价值目标,把智能科技更广泛地应用于教育、医疗、社保、交通、就业、养老等民生领域,使全体人民尤其是让贫困地区、贫困人口搭上互联网、人工智能发展和公共服务普惠化的快车,迎接智能生活新时代。
智能社会必然走向共享社会。生产力的大幅度提高、社会财富持续增加以及人口规模的相对稳定,使人们共享资源和收益有了物质前提。而大数据、互联网、物联网、人工智能等,也为共享社会创造了关键的技术前提。进入21世纪以来,现代信息科技创造了数字经济,数字经济是典型的共享经济。以往资本是独占的,在数字经济中,资本往往带有公共服务的色彩,人们不必在意物品的占有权,而在意其使用权。数字经济也是最有效率的经济,各种APP通过时间、地点、技能的匹配将物品的使用权分配到最需要它的地方,使资源的利用率最大化。同时,新的信息科技也助推了数字自由和数字民主的发展,使公民基本权利和人权的实现有了新的技术保障。例如,通过互联网,人们能够独立自由地选择职业,更加精准地投资和经营。公民可以自由而负责地发展言论、传播新闻、沟通对话,自由度和获得感明显增强,共享经济、共享社会、智能民主正在成为现实。
公正与法律同根同源,公正是法律的本质,法律是公正的外化。“法是善良与公正的艺术”。“以公正的逻辑代替武力的逻辑是法律本质的全部所在”。“正义是社会制度的首要价值”。这些法理命题都揭示出公正与法律的内在联系。在中国特色社会主义新时代,在全面依法治国总体制度体系内,构建智能社会法律秩序,也必然以公正作为其核心价值。习近平总书记指出:“公平正义是我们党追求的一个非常崇高的价值,全心全意为人民服务的宗旨决定了我们必须追求公平正义,保护人民权益、伸张正义。全面依法治国,必须紧紧围绕保障和促进社会公平正义来进行。”“必须牢牢把握社会公平正义这一法治价值追求,努力让人民群众在每一项法律制度、每一个执法决定、每一宗司法案件中都感受到公平正义”。党的十八届四中全会、五中全会、中央全面依法治国委员会的三次会议和党的十九大都强调以法治体现和维护社会公平正义,指出,“要把公正、公平、公开原则贯穿立法全过程,”“依法保障公民权利,加快完善体现权利公平、机会公平、规则公平的法律制度,保障公民人身权、财产权、基本政治权利等各项权利不受侵犯,保障公民经济、文化、社会等各方面权利得到落实,实现公民权利保障法治化”。习近平总书记的重要论述和党中央作出的公平社会的制度安排,也为构建智能社会法律秩序确立了价值基石,指明了发展方向。以公正为核心价值构建智能社会法律秩序,必须坚持权利平等、机会平等、规则平等的基本原则,坚持算法公正、智能正义、制度公平,加快推进智能进程中的“脱贫攻坚”,消除智能科技享用方面的“贫困人口”。
(四)包容
包容是现代法治的美德。在高度现代化的智能社会,我们所要建立和维护的法律秩序不是一般任一秩序,而是“包容性秩序”。不是任何一种秩序都能够称得上是“包容性秩序”。例如,封建统治阶级及其代言人把封建等级制看作不可侵犯的秩序。韩非宣称“臣事君,子事父,妻事夫,三者顺则天下治,三者逆则天下乱,此天下之常道也”;董仲舒把“君为臣纲,父为子纲,夫为妻纲”宣布为封建社会秩序的根基。这种蔑视人性、维护特权、禁止社会流动的秩序与“包容性秩序”相去甚远。而当今社会,信息的共享性和智能的开放性必然要求智能社会秩序应当是百花齐放、百家争鸣、尊重差异、包容多样、和而不同的秩序,是一种使自由而平等的竞争和人文主义的生活成为可能的秩序,是各种社会分歧、矛盾和冲突能够在伦理和法理的基础上得以和平解决或缓和的秩序,是由科技理性和法律理性共同支撑的社会秩序。
构建包容性法律秩序,以法治的价值和力量引导和保障社会充满生机活力,让一切有利于社会进步的创造愿望得到尊重、创造活动得到支持、创造才能得到发挥、创造行为得到肯定,全社会的创造能量充分释放、创新成果不断涌现、创业活动蓬勃开展;让每个人在智能社会法律秩序中享有广泛自由,包括但不限于:人身自由,不因性别、出身、血缘、籍贯、财产、受教育程度等因素而受到管制和歧视;思想自由,让想象力和兴趣热情奔放,生产出各种各样的精神产品和物质产品;言论自由,每一个人都有权利负责任地以语言、文字、图像、微博、微信、视频及其他方法自由地发表和传播自己的意见,并且拥有听取他人意见和批评的平等权和相对于政府的知情权;创造自由,让聪明才智在理论创新、技术创新、生产创新、文化创新、制度创新等方面“物尽其用”;契约自由,每个人都成为独立的个人和平等的权利主体,每个人都可以依据自己的切身利益和合理预判与他人自由地交往和交易;让尊重劳动、尊重知识、尊重人才、尊重作为劳动结晶的技术和资本蔚然成风,放手让一切劳动、知识、技术、管理、资本等生产要素的活力竞相迸发,呈现“大众创新、万众创业”的时代风采。
构建包容性法律秩序,要以科学思维和法理思维处理好智能社会的各种辩证关系。诸如利益与风险的关系、人工智能的发展与安全的关系、信息保护与信息公益的关系、互联网自由与监管的关系、大数据自主与共享的关系、数据的原始性、真实性与数据脱敏的必要性、强制性的关系、算法的技术秘密与信息公开之间的关系、智能科技的产权保护与增进社会福祉的关系、激励创新和容许出错的关系、信息供给侧与需求侧的关系、建立信用平台与促进社会诚信和对属于隐私范畴的个人信息保护的关系等,类似的辩证关系或价值冲突还有很多,需要我们在法律制定和实施中认真研判、合理规定,避免顾此失彼。
构建包容性秩序,要更开放、更多元,注重对域外智能科技文明的借鉴和吸纳。实事求是地说,智能科技发端于美欧日等发达国家,他们在智能科技管理和智能社会治理方面遇到的问题比我们早、比我们多,进行伦理治理和法律治理也比我们先行一步,他们遇到的问题和教训值得我们反思,他们的立法经验值得我们学习借鉴。例如,在数据保护方面,1995年欧盟就制定了《数据保护指令》,2016年欧盟又新制定了《一般数据保护条例》(General Data Protection Regulation, GDPR),共6章99条,2018年5月25日正式生效。这是迄今全世界数据保护方面的法律规定最系统、权利义务责任最清晰的立法。值得注意的是,该条例对数据主体权利的宣告和保护,要求数据主体的同意必须是具体的、清晰的,而且是在充分知情的前提下自由作出的。如果是涉及儿童的个人数据,必须获得其父母或者其他监护人的同意。更重要的是,数据主体可以随时撤回同意,数据控制者应为此提供便利。虽然GDPR允许在特定场合数据控制者出于其合法利益可以处理数据,但必须证明其合法利益显著高于个人权利和自由。此外,数据主体还被赋予知情权、反对权、被遗忘权以及数据可携权。为了保护数据主体的权利,GDPR还给数据控制者和处理者设定了一系列刚性的义务,包括:数据的假名化;对于高风险的数据处理活动,要进行数据保护影响评估和事先协商;在发生数据泄露时,要及时通知监管机构;等等。GDPR还规定了享有调查权和处理权的独立监管机构等。当然,过于严格的数据保护也妨碍了欧盟数据产业的发展。又如,2018年底,日本政府发布《以人类为中心的人工智能社会原则》,明确规定了人工智能研究和应用中应当秉持人类尊严、多元包容、可持续的社会理念,提出了应当遵循的一系列原则,如人类中心原则,教育应用原则,保护隐私原则,保障安全原则,公平竞争原则,公平性、说明责任及透明性原则,创新原则等。它借鉴了欧盟的经验,也吸取了欧盟的教训。再如,2017年6月德国联邦议会制定《改进社交网络中法律执行的法案》(2018年1月1日实施),对“社交网络平台”作出了法律界定,把Facebook、Twitter、YouTube等在德国境内运营并且以营利为目的、向公众和用户分享任意信息的社交网络平台全部纳入法律监管范畴,在此基础上明确规定了互联网平台责任、政府监管职责、社交网络平台内容审查与监管义务等。同年,德国修订了道路交通法,针对自动驾驶汽车建立了法律规范,确立了自动驾驶的基本概念、驾驶员的权利义务和责任等重要内容,为自动驾驶的发展奠定了必要的法律基础。上述法律和政令所凝练的概念和命题、提出的理念和价值、规定的原则和规则、构建的制度和机制、制定和实施程序,以及在实践中修改完善的进程,都有值得我们学习、研究、借鉴的价值。
(五)共治
共治是善治的核心要义,良好的法律秩序由共治而形成。智能社会的治理比其他任何形态的社会治理都更加复杂,它既有针对智能科技的极强专业性,又具有面向公众的广泛社会性。实行以法科共治、法德共治、多元共治为核心的法律秩序,是破解“治理赤字”的重要法宝,也是构建智能社会法律秩序的必然选择。
一是法律和科技共治。我们既往的研究基本局限于科技对法律的作用、法律对科技的反作用这样一种线性思维上。而当科技进步逐渐主导我们的生活、主宰我们的世界的时候,这种思维方式和理论模式显然已经失效,代之而起的是法律和科技共治模式。法科共治的目的在于推进制度优势和科技优势的深度融合。当下,我国不仅有中国特色社会主义法律的制度优势,还具有在大数据、云计算、人工智能、区块链、互联网、物联网、电子商务等领域领先全球的科技优势。可以预见,当科技与制度深度融合之时,我国的制度优势和科技优势必将形成新的综合优势,使智能社会治理产生巨大效能。跨部门大数据办案平台的运行,杭州、北京、广州互联网法院的创建,全国各地智慧法院、智慧检务、智慧公安的建设,中国裁判文书网全面运行,都表明中国之治正借助新科技优势而取得无与伦比的治理效能。
以前,我们认为,法律规范和技术规范是二元的,技术规范调整的主要对象是人与自然的关系,它们规定人们如何使用自然力、生产工具等,以有效地利用生产工具,开发自然资源;而法律调整的是人与社会的关系,规范人的涉他涉众行为。但是,随着科学技术的发展,大量的技术规范需要转化为法律规范,或者由法律强制力保障实施。美国三里岛核电站泄漏事故和苏联切尔诺贝利核电站的爆炸事故严重地危害了人们的健康和生命,给人类敲响了警钟,人们认识到为了预防和及时化解科技运用中的风险和危害,不仅必须有严密的技术规范,而且必须有强制的法律规范保证这些技术规范的实施。例如,机械制造、生产操作、交通安全、环境保护、卫生保健、互联网运行、大数据集成、人工智能等方面的技术规范大量地法律化,既保障了科学技术在生产和生活中的运用,也有效维护了人民群众生命安全和全社会的利益。在智能社会推进法科共治,要充分发挥技术防控的基础性作用和法律防控的保障性作用,把两种防控机制有机结合,使代码规制与法律规则、算法与国法相辅相成,既能提升智能科技风险防控质量和效率,又能以法律的肯定性、强制力和权威性强化科技人员的防控责任,使风险防控责任落实到人、落实到位。我国民法典合同编对当事人通过互联网等信息网络订立电子合同以及这些合同的履行设置了专门的法律规则,人格权编规定了大数据背景下个人信息保护问题,侵权责任编对网络侵权作出了比较严格的规定,这些都是法律和科技共治的制度保障。
诚信治理为法律和科技共治提供了一个范例。在传统社会,诚信治理依靠的是法律和道德手段;在智能社会,科技发挥着不可替代的作用。大数据的存储、处理和应用能力的快速发展,云计算和区块链技术的不断成熟,都为维护社会诚信、建设信用社会提供了坚实的技术支持。只要一个人的行为是通过电子途径完成的,就会留痕,被完整记录并保存下来。每个人关乎他人和社会利益的活动信息,尤其是缺失诚信、违约侵权的不良行为和活动等都会被记录在案,无法涂改、遗忘不了、删除不能,这就倒逼人们在智能技术的监督下诚实守信、谨言慎行、远离邪恶。特别是区块链技术广泛应用后,各种信息永恒保存,就更迫使人们自觉规范行为、树立诚信形象、建立个人良好信用记录。可见,许多法律和道德禁止不住的失信言行却被智能科技管起来了,科技让生活更美好的同时,也使社会更文明。
推进法律和科技共治,不仅是法律手段与科技手段的结合,也需要法律科学和自然科学交叉结合,科学家和法学家互相学习,合力引导科技朝着普惠向善的方向发展。正如英国原最高法院院长戴维·埃德蒙德·纽伯格在一次演讲中所说:“法治是文明社会的基石,由于科学在诸多领域内不断发展,深远探索,科学家们应当了解相关法律规则,指导自己工作的适当法律界限。此外,同样重要的是,法律人要熟悉科学的发展情况,法律需要跟上技术发展的步伐。”当下,有必要建立法学家、科学家、企业家、教育家和政府官员治理联盟,共同编写智能科技伦理章程、共同起草有关法律法规,为人工智能研发、应用活动提供道德指引和法律规制。
二是法律和道德共治。法安天下、德润人心。法律是成文的道德,道德是内心的法律。国家和社会治理既要重视发挥法律的规范作用,又应重视发挥道德的教化作用,实现法律和道德相辅相成、法治和德治相得益彰,这是中华民族治国理政的优秀传统,是中国特色国家和社会治理的鲜明特色和显著优势,对于智能社会治理而言更有着特殊意义。我国作为率先进入智能社会的东方大国,特别重视人工智能等智能科技的伦理和法律问题。习近平总书记多次强调要加强对人工智能等前沿科技的伦理和法律研究,提高道德约束和法律应对的能力。如今,高科技进展飞速,普通公民对高新科技陌生疏离、科技异化和公共风险滋生,尤其需要在伦理和法理的结合上,对新科技背景下的人伦关系、社会秩序进行审视和反思。主要包括两个方面:一是对社会主体的重新审视。例如,对“机器人”的社会属性如何界定?人工智能体是否发展到某种程度就可以视为或拟制为法律关系主体,享有权利、承担责任?二是对科技带来的社会风险、社会结构重塑等问题的应对。致力于建构新技术条件下理想的人伦关系和社会秩序,确立科技研发、运用过程中相关主体应遵循的伦理规范和法理原则,始终从人的价值出发,促进科技向善。
科技伦理治理和法理引导有两条主要路径,即推进人类主体权利的保护和推进责任体系的创建。前者强调明晰所要保护的人类利益,后者则强调对整体责任的认识和内部责任的划分。由此,我国智能科技的研究和应用应遵循两项基本原则,即人类根本利益原则和责任原则。人类根本利益原则,即科学技术应以实现人类根本利益为最终目标,体现出对人的尊重、对人权的保护,对科技风险的消解,对科技运用的负面影响的防范和制止。责任原则,即在科技研发和应用两方面都建立明确的责任体系。一方面,在科技研发上应遵循透明度原则,确保人类能够了解必要信息,可以对科学技术进行验证,并对其应用结果、风险进行预测;另一方面,在科技应用上应当遵循权责一致原则,建立必要的公共审查制度,要求有关主体留存必要信息,以保障问责的可操作性。
近年来,各国都在对人工智能进行伦理和法理研究方面的探索。例如,欧洲机器人研究网络(EURON)发布《机器人伦理学路线图》,韩国工商能源部颁布《机器人伦理宪章》,日本组织专家团队起草了《下一代机器人安全问题指引方针》,美国国家科学基金会和美国航天局设立专项基金开展“机器人伦理学”研究。此外,诸多行业组织、公司企业也在伦理规范方面强化了人工智能专家的专业责任。例如,日本人工智能学会内部设置了伦理委员会,谷歌设立了“人工智能研究伦理委员会”,中国的人工智能技术企业同样强化了人工智能专家的伦理职责并对人工智能技术的社会影响进行全面评估。一些人工智能专家更是呼吁在人工智能产品中预设道德准则进行伦理指引,甚至建议为人工智能体安装“道德黑匣子”以记录其自主决定与行为,及时发现和纠正其“越轨行为”。在加强伦理引导和约束的同时,要善于运用法治思维和法治方式,完善法律规范体系,建立人工智能开发、使用和产业发展的法律约束与惩戒机制,确保人工智能科技在法治的轨道上健康发展。
三是多元共治。智能社会的治理是一项复杂的系统工程,需要国家、行业、组织、公民个人等主体的共同参与,实现党委统一领导下人大、政府、政协、监察机关、司法机关、社会组织、企事业单位、公民个人等多元主体协同共治局面。
第一,要坚持人民主体原则,始终为了人民、依靠人民。人民不仅是社会治理的目的,也是社会治理的主体,是社会治理现代化的根本力量。智能社会的治理必须紧紧依靠群众,不断塑造和培养治理的内生动力,真正让人民群众成为治理的主体力量。例如,在互联网治理中,仅仅依靠网信管理部门监管是远远不够的,只有充分发挥公众参与在网络治理中的作用,方可收到维护网络空间秩序的效果。因此,网络安全法明确了公民对危害网络安全行为的举报权利,强化了政府部门受理、处置公民举报的责任,保障了公民通过网络举报参与网络空间治理的即时性和有效性。一些网络平台也自发建立起依靠用户运行的治理机制,例如淘宝网在纠纷解决机制中引入的“大众评审”实践,微信公众平台建立的“洗稿投诉合议机制”等。依靠人民来治理,还要激励和支持社会自治,充分发挥群众自我教育、自我管理、自我约束的自治作用,共同应对智能社会的复杂问题。
第二,要着力打造“人人有责、人人尽责、人人享有”的“智能社会治理共同体”。“社会治理共同体”是一个具有中国特色的科学概念,党的十九届四中全会《决定》提出,“建设人人有责、人人尽责、人人享有的社会治理共同体”,深刻诠释了“社会治理共同体”的共治内涵和时代精神。人人有责、人人尽责,表明社会治理共同体首先是实践共同体、责任共同体,人人享有则表明这一共同体还是利益共同体、价值共同体、权利共同体、命运共同体。这与共建、共治、共享逻辑一致,人人有责是本质、人人尽责是前提、人人享有是结果。“社会治理共同体”的精髓是“共建共治共享”,共建共治必然指向共享,评价智能社会治理成效的根本标准就是共同体成员能否公平合理地参与智能社会治理、能否公正合理地分享智能科技带来的成果、能否切实感受到智能社会中的各种便利和权益。
第三,实行多主体协同共治。党的十九届四中全会《决定》提出,“必须加强和创新社会治理,完善党委领导、政府负责、民主协商、社会协同、公众参与、法治保障、科技支撑的社会治理体系”。把党的全面领导贯穿于社会治理的各方面各环节,发挥党委总揽全局、协调各方的领导核心作用和政治优势。人大民主集中、立法决策作用;政府行政主导、严格执法作用;政协民主协商、参政议政作用;监察机关监督制约、依法反腐作用;司法机关定分止争、惩恶扬善作用;人民团体和各种社会组织联系群众、自治互律作用,发挥科学技术信息集成、精准服务作用。以此构建科学化社会化法治化智能化的治理体系,形成智能社会科学的治理格局和强大的治理合力。
智能社会治理特别需要政府和企业合作共治。智能科技企业和平台公司在智能社会治理方面有其不可替代的内生动力和天然优势,所以,要让它们拥有一定的、既是自治又是他治的规则制定权、审查管理权、责任追究权。比如,我国网络安全法、反恐法、电信和互联网用户个人信息保护规定等法律规章就赋予互联网企业和平台强制用户“实名认证”、依法进行“信息审查”等监管权,支持它们在法律、法规和规章范围内制定平台规则、处罚违规行为、解决平台纠纷。政企合治的优势在于:一方面,政府充分利用互联网和大数据平台,综合分析各种风险因素,提高对风险因素的感知、预测、防范能力;另一方面,通过政企合作、多方参与,促进公共服务领域数据的集中和共享,使政府掌握的相关数据同企业积累的相关数据进行有效对接,形成智能社会治理的合力。在防控新冠肺炎疫情的人民战争中,党中央提出依法科学有序的总方针,腾讯、百度、三大移动运营商和诸多人工智能企业向各级政府提供了强大的智能科技支撑,彰显了政企合作共治的制度优势和治理效能。
结 语
智能社会已经到来,提出“构建智能社会法律秩序”这一科学命题、时代主题和研究课题,既迫在眉睫又顺理成章。我们要以法治的理性、德性和力量引领和规制智能科技革命,让智能化系统更加安全可控、科技运用更合乎伦理法理,使之成为促进社会有序发展、共享发展、公平发展、开放发展、和谐发展的生产力基础。唯有这样,人们才能在网络泛在的数字时代对自己的隐私保护、生活安宁、身心自由有充分的合理预期,才能在算法决策、机器决策中真正获得规则公平、权利公平、机会公平。只有在以科学、人本、公正、包容、共治为核心要素的法理型秩序中,智能在线教育、智能远程医疗、智能无障碍设施、远程法律服务、智能社会治理、互联网司法等才能积极发挥有益作用,充分释放正能量,助力缩小人与人之间的差距、减少区域之间的不平衡,弥补各类优质资源供给不足、分享不均的现状,更好地实现数字公正、教育公平、医疗公平、司法公平、公共服务均等,更好地实现重病者、老年人、残障人、受害者、贫困者等社会弱势群体权益保障,使全体人民在智能社会法律秩序的呵护之下,共享科技发展成果,实现人的全面发展、社会全面进步。