人工智能所带来的风险挑战,最根本的是重新塑造了世界的时空维度。当前,人工智能、大数据、区块链、虚拟现实、物联网等技术,正在共同交叉演化,形成并推动新的“三个世界”的诞生。以往,我们所熟悉的是“两个世界”,即“自然世界”加“社会世界”,但是,人工智能发展推动演化出一个新的“机器世界”。老子《道德经》有言:道生一,一生二,二生三,三生万物。三个世界的法律图景,与过去两个世界的法律形态相比,完全不可同日而语。
在传统的两个世界,主要是借助人类的智能,依靠领袖或集体的智慧,来为自然和社会世界立法。而第三个世界的出现,则从根本上挑战了这一法律传统。这至少带来了两个根本挑战:首先是,人类的立法智能是否能够有效处理三个世界的治理问题?第二,机器比人是否更适合来接管这样一个立法、执法和司法的工作?正如美国著名网络法学家莱斯格在其名著《代码》中揭示的,在机器世界中,法律将更多以“代码”的形式出现,“法律”将更多地被代码化和算法化,美国西海岸硅谷的代码之治,有可能取代东海岸华盛顿的法律之治。换言之,在新的三个世界中,代码可能比法律更适合承担机器世界的治理工作。当自然与社会世界逐渐内嵌于第三个机器世界,可以说,法律正面临千年未有之变局。
古代农业社会是靠天吃饭,人在自然世界中颠沛谋食;现代工业社会则与之相反,人类试图主宰自然世界。而当进入新的人工智能时代,自然和人类世界正在开始围绕一个新的机器世界打转。可以设想不远的未来,我们如何向手术机器人支付费用?如何对自动驾驶出租车付款?在物联网(IoT)平台上,智能洗衣机又如何向智能平台直接发出购买洗衣液的请求?智能汽车如何向维修机器人支付修理费用,它又如何发起智能投保并与智能代理进行理赔谈判?比如,在人工智能代理投资中,实际完成交易过程的其实是数字程序及其算法,当人工智能发展至脱离人类意志控制的程度时,其所产生的各类法律结果如何再被归因于人类?因为,它不再只是简单的代理执行,而是在自主做出独立的决策。
对于这些可以预想的技术发展,事实上只有人工智能技术,才可能成为规范未来世界的治理手段,实现跨越人与人、人与机器、机器与机器的依托于智能算法的操作平台。在这样一个新的世界中,只有人工智能理论上可以将所有人和事物陈列到虚拟网络世界的“货架”上,面向智能技术进行统一标识,并确保标准化的智能操作。而在新的虚拟世界空间中,传统的法律治理手段会不断被边缘化。
我们已经观察到,人工智能正通过迅速的技术迭代,同时结合区块链等其他技术发展,开始在虚拟世界中承担法律治理的工作。例如,目前的Modern VR平台就利用智能技术,以让虚拟财产所有权的交易更加安全。而虚拟现实平台Decentraland则通过人工智能和区块链技术来识别和指派虚拟世界中的土地所有权。[1]由于智能技术的迅速发展,现在虚拟不动产可以像现实世界的财产一样出售、租赁,并用于虚拟活动。在这些发展趋势下,未来将更多以人工智能而不是传统法律技术来规范虚拟财产的交易。伴随着世界的多极化、平行化和虚拟化趋势,传统法律的规制手段将遭遇各种挑战,而人工智能将接管其中的大量功能。虚拟世界高度随机性、即时性、可塑性的特点,决定了它难以通过传统法律进行规范,而具有深度学习能力的人工智能则可以更好确保交易的效率和安全。传统法律应对的是相对静态、固定的自然和社会世界,而面对一个正在涌现的虚拟和平行世界,法律的形态必然面临转型。
首先,未来法律必须吸收和结合智能技术,通过法律信息化、信息流程化、流程自动化的过程,提高法律的运作效率,在诸如法律检索、文件自动审阅、判决自动生成、智能法律咨询、案件结果预测等方面,提高法律的智能化程度。其次,法律的功能应当从过去的让人“不敢违法”发展到让人“不能违法”的水平,比如在自动驾驶技术中嵌入代码(法律),自动执行法律的预期效果,在事前就禁止相关违法行为(如酒驾或超速)。而诸如智能合约、欺诈智能识别系统等技术,则是法律智能化的第三个层次,即达到“不用违法”的效果。在原有技术条件下,合同的效力由法律的惩罚和威慑来担保,但是智能技术则可以直接推动和保障交易的完成,从而使法律完全失去用武之地。可以设想,随着智能技术能力的不断提升,社会主体的各类信息都将数据化,所谓“法律事实”也将趋于透明化,证据链的形成可以被机器学习准确捕捉,法律流程将更多以智能化和自动化的方式完成。
借用中科院自动化研究所王飞跃教授的洞见,[2]随着智能机器社会的崛起,人类法律也将经历一个从牛顿式的大定律-小数据向默顿式的大数据-小定律模式演变的趋势,将从UDC(不定性、多样性、复杂性,Uncertainty,Diversity,Complexity)的社会向AFC(灵捷、聚焦、收敛,Agility,Focus,Convergence)的方向演化。也就是说,传统的法律实际是基于牛顿的经典力学模式,它根据统一化的“大法律”来整齐划一地规范各种“小事件”,它需要人为地简化和收敛各种复杂场景,化约社会沟通的复杂性,以更好实现德国思想家韦伯有关法律成为自动贩卖机的理想。而智能化的机器学习,则会从海量的“大数据”中根据特定的场景和实用的需要,随机提取特定的“小法律”来形成对人类行为的反馈机制。在这种情形下,“数据”甚至不必是实际发生的案件,而可以利用各种基于代理的模拟仿真技术(Agent-Based Simulation),或是通过智能生成性对抗网络(GANs Generative Adversarial Nets),来人工地生成海量数据并以此进行预测性和实验性的立法与司法。
一方面,人工智能通过去语境的信息化模式提取出特定规则,另一方面,再通过模拟仿真进行动态观察和效果评估,进而模拟各种虚拟场景,并在此过程中生成各种具有智能反馈特征的“小法律”。这些“小法律”可以通过给定目标,通过设置一系列变量及相关的变化概率,模拟建立包括一系列社会行动者、互动规则和各种动态环境特征在内的法律推演,来同时实现描述、预测和引导社会交往、建构法律动态模拟过程和结果的功能。这种意义上的智能法律,就有能力去承担治理未来复杂世界的使命。
在古代社会,天人合一,人面对天地,祭祀或祈祷,所以宗教尤其发达;进入工业社会之后,由于社会世界全面压过自然世界,所以“上帝死亡”,宗教开始被除魅,并全面退出公共领域。而当进入新的人工智能时代,当机器和虚拟世界成为新的世界体系的核心,法律也可能遭遇过去宗教和道德曾经历的命运。它必须升级换代,才有可能去应对未来世界的风险挑战。
当前,由于脸书等事件的曝光,社会公众开始意识到人工智能技术发展所带来的法律挑战,个人信息和隐私保护的意识正在觉醒。人们也逐渐觉察到,传统立法、执法和司法手段的保护作用存在局限。在新的世界时空结构中,必须通过人工智能等技术的发展,来反制技术所带来的伦理风险,正像近代政治革命试图用权力来制衡权力一样,未来也必须利用技术发展来制衡技术发展。
当前的人工智能技术发展,首先依赖于近十多年来互联网世界的迅速发展,在此过程中积累的海量大数据资源,为机器学习提供了丰富的“生产资料”。在这种背景下,人工智能借助强大的计算芯片和架设多层神经网络,通过挖掘和标识海量的互联网数据来进行深度认知。在这种特定的技术和工程路线下,数据挖掘和机器学习技术得以迅速发展,而这也由此带来了棘手的伦理和法律问题。因为,当前的人工智能发展,仍然主要是以大数据技术为中心的,依靠海量数据挖掘和粗暴消耗个人隐私为基础的技术路径。在这种技术范式下,它难以避免会破坏传统的人文主义价值,比如隐私权、自由选择权、反歧视和平等保护等等,这将让所有人都裸露在无处不在的数据挖掘和网络监控之下。
必须意识到,伴随着未来新的三个世界的演化,单纯依靠传统的法律规制手段,已经不足以对抗技术系统快速扩张所带来的挑战。要在未来更好保护不断暴露在各种技术过度扩张之下的“血肉之躯”,要更好捍卫人类不可克减与不被支配的尊严和权利,就必须依赖更良善的技术范式的发展。对此,就需要激活政治与法律层面的广泛讨论,需要发起不同自然科学与人文学科的跨界对话,通过更多的政治与媒体监督,不断刺激和推动技术范式的变迁,进而形成一种具有内在制衡能力的技术生态。
1787年,美国联邦党人为北美洲大陆的新世界,制定了一部传世宪法,时至今日,它仍在影响整个现代人类政治和法律世界的发展。那么,我们今天,所面临的其实是如何为全人类意义的新的三个世界,为未来将在这三个世界驻足的生民立命,为万世开太平。法不可不弘毅,任重而道远。
注释:
[1] 可参见Decentraland的英文官网介绍,来源:https://decentraland.org/cn,2018年5月22日访问。
[2] 参见王飞跃:《人工智能:第三轴心时代的到来》,载《文化纵横》2017年第6期。
(摩罗编辑)