在个人信息保护法中,这种差距尤为明显,而这一问题又因扩大个人信息保护法以试图解决所有新挑战变得更加严重。
治理技术风险犯罪的生成机制表明,技术风险来源于多元风险责任主体,并且社会非正式力量在技术风险犯罪的治理中发挥了史无前例的重要作用,因为他们是技术的发明者、使用者和管理者。再如,在我国智慧交通体系的建设中,算法可以直接对监控查获的交通违法行为处以罚款。
汪庆华:《人工智能的法律规制路径:一个框架性讨论》,《现代法学》2019年第2期,第58~59页。对于公法权利被人工智能所侵犯的情况,则只能依靠事先、事中和事后的公法规制来进行全过程治理。相较于立法机关和监管机构,司法机关重在以事后救济的方式来保障和维护美国的技术、经济和国家安全,以及公民隐私、自由、人权、法治、知识产权等美国所尊崇的价值观。该通告概括了人工智能在美国社会、经济界和政府中的运用现状,特别聚焦于人工智能在交通和战争领域的运用,提出了一些无拘束力的建议。(54)国家航空航天局则是一个行政性科研机构,帮助联邦航空管理局对无人机监管政策和技术措施进行研究、测试和调查。
比如,美国联邦贸易委员会、国家劳工关系委员会和平等就业委员会,都是对政府传统职能的扩大与补充。在自主飞行时,无人机也可能因计算机错误造成他人损害。⑩Miriam C.Buiten,"Towards Intelligent Regulation of Artificial Intelligence," 2019,p.1. (11)Karen Yeungk,"Big Data as a Mode of Regulation by Design," Information Communication Society,Vol.20,2017,pp.118-136. (12)张凌寒:《算法权力的兴起、异化及法律规制》,《法商研究》2019年第4期,第65页。
出于安全和人权的绝对优先性考虑,政府对人工智能规制的正当性毋庸置疑。(59)Matthew U.Scherer,"Regulating Artificial Intelligence Systems:Risks,Challenges,Competencies,and Strategies," 2016,p.38. (60)Nicolas Petit,"Law and Regulation of AI and Robots:Conceptual Framework and Normative Implications," 2017. (61)Langdon V.Google,Inc.,474 F.Supp.2d622,629-30(D.Del.2007). (62)汪庆华:《人工智能的法律规制路径:一个框架性讨论》,2019年,第59页。(66)目前来看,这种事前监管机制,往往是抽象性规则与具体性措施相结合,技术监管措施与法律监管措施相结合,激励性措施与惩罚性措施相结合。大多数智能系统都是不透明的,用户无法看清其中的规则,也不能参与决策过程,只能接受最终的结果。
(41)尽管如此,该通告也简略涉及人工智能与监管公平、安全与人工智能监管的内容。早在2011年,内华达州做出第一个关于自动驾驶车辆检测的立法。
另外,对于人工智能引发的行政纠纷,法院应当通过判决来确定更加具有包容性的审查标准来补充救济。(4)包含自主学习能力,是类似计算一种认知任务的技术。(42) 2018年,联邦政府又颁布了《关于美国工业领域人工智能峰会的概要》。人工智能的运行机制实际上就是系统基于数据执行算法的过程,必须通过代码形式才能真正作用于人工智能系统。
(58) 四、美国人工智能规制的公法路径 近些年来,美国法学研究对于人工智能监管提出了多种法律监管思路,笔者把它归结为三大类:一是立法性路径。(24)Jean-Louis van de Wouwer,"Nascent Drone Regulations Worldwide:A Legal Framework for Civil RPAS (Remotely Piloted Aircraft Systems)," European Networks Law and Regulation Quarterly,Vol.4,No.2,2016,p.137. (25)于立深:《中国公法学现代化的方法论进路》,《法商研究》2005年第3期,第19页。(17)2020年11月,浙江省富阳法院对人脸识别第一案做出判决,法院在判决书中明确提出人工智能系统收集指纹和人脸等个人生物识别信息必须遵循合法、正当、必要原则,遵循确保安全原则,不得泄露、出售或者非法向他人提供,否则其信息收集行为违法。对于具有潜在危害的人工智能,政府部门可以要求披露其相关设计的利益考量、适用范围和技术水平,以及应对可能风险的预防措施和技术手段。
二、人工智能规制的公法挑战 在公法研究中,尽管对人工智能规制的法律问题仍须甄别,理论领域尚未明确,研究方法仍在探索,但其规制需求、规制目标和发展趋势已经比较清晰地展现出来,并表现为公法变革中必须回应的一些基本命题,成为各国未来人工智能公法规制面临的重大挑战。这实质上是将人工智能作为一个有目的性的系统,并赋予人工智能体民事法律人格。
④在人工智能领域,对无人机操作奉行视距监管(beyond visual line of sight)原则就可能遏制无人机在运输和交通领域应用的发展。(19)人工智能的公法规制,也应当改变过去政府单向的命令—服从的监管机制,探索算法规制的合作监管机制。
第一,全国人大制定一部统一的、专门的《人工智能发展法》,以防范和管控与人工智能有关的公共风险。为弥补私法路径之不足,我国有必要提倡人工智能规制的公法路径,将人工智能系统视为一种公权力行使系统,充分且审慎地考量一些国情变量,采取综合性的公法路径来对人工智能进行有效规制。此外,无人机还可能窃取国家机密、侵犯个人隐私、造成噪声污染等,损害国家利益和个人权益。从法理上来说,任何权力的行使都必然受比例原则的约束。在美国,作为监管主体的监管机构包括联邦政府及其相关部门或机构、州政府及其相关部门或机构。在美国,作为监管主体的司法机关包括联邦法院系统和州法院系统。
(51)相对于政府组成部门,监管机构具有灵活性、专业性和独立性,可以自由地进行独立的事实调查,将监管政策的制定基于更加广泛的社会考量。(一)公法规范体系 在美国,对人工智能监管的规范体系主要包含三个层面:一是联邦立法,二是州立法,三是联邦和州政府的监管指南和监管通告。
(64)对研发者的监管,主要是规定人工智能研发者的安全测试义务,即要求其研发的人工智能产品必须通过安全测试鉴定,并且研发者将测试结果提交给独立监管机构。当然,由于我国法治道路、监管结构和司法体制与美国存在巨大差异,我们不可能也没有必要去模拟创建类似美国的人工智能公法规制体系。
[2021-10-17] (19)Kenneth A.Bamberger,"Technologies of Compliance:Risk and Regulation in a Digital Age," Texas Law Review,Vol.88,No.4,2010,p.669. (20)苏宇:《算法规制的谱系》,《中国法学》2020年第3期,第170页。尽管尚未正式通过生效,这些法案已经规定了标识数字水印、视听信息披露、视觉信息披露、音频信息披露等公法规制手段,展现出公法规制路径的鲜明特色。
但确定无疑的前进方向是必须建构一种对人工智能进行事前、事中和事后全过程的监管机制,可靠无误的检验标准是这种机制对于各国人工智能发展所带来挑战的回应能力。(14)Doaa Abu-Elyounes,"Contextual Fairness:A Legal and Policy Analysis of Algorithmic Fairness," University of Illinois Journal of Law,Technology Policy,2020,p.51. (15)David Engstrom Daniel Ho,"Algorithmic Accountability in the Administrative State," Yale Journal on Regulation,2020,pp.820-827. (16)Committee on Risk Perception and Communication,National Research Council,Improving Risk Communication,National Academy Press,1989,pp.72-82. (17)城仲模主编:《行政法之一般法律原则(一)》,三民书局,1999年,第145~149页。要明确规定积极性监管的启动程序、监管措施(包括技术措施和法律措施)和监管重点,探索政府—平台—商户—用户的合作治理机制。具体列举性规定的立法方式可借鉴美国《2019财年国防授权法令》的相关规定。
美国人工智能监管的权力主体主要有三大类:立法机关、监管机构和司法机关。(11)哪里有风险,哪里就需要规制。
因此,应该通过对研发人员的监管性培训,推进法律规则的代码化和标准化,将政府部门的监管理念编入人工智能的电子系统之中。显而易见,进入数字时代后,人工智能对国家安全和公共安全的潜在风险为政府监管提供了最高的正当性。
③著名的历史实例是英国于1865年颁布的《红旗法令》(Red Flag Act)。具体应当规定保障人权原则、社会公平原则、安全可控原则、开放共享原则和权利义务相统一原则。
但是,没有任何政府监管的企业自我规制是危险的。该法还制定了检测这些车辆的条件,要求发布监管规定对自动驾驶进行监管。在美国人工智能的公法规制中,行政监管是最敏锐、最活跃、最具创新精神的一条路径,是对新兴技术领域进行预防性监管的排头兵。(28)2018年,国会已经建议联邦航空管理局(FAA)在《FAA再授权法》中嵌入对人工智能的规定,要求其采取必要措施应对人工智能的新发展。
既有主动干预,又有被动反应。再如,对于自动驾驶汽车导致的交通事故,很难依据我国《刑法》第133条来追究刑事责任。
(73)这一点与我国并无差异。其中,经监管机构认证了的产品设计者、生产者和销售者可以承担有限责任,而未经认证者将承担严格的连带责任。
但总体观之,美国人工智能公法规制以立法机关作为建立监管体制和树立基本原则的起点,行政机关发挥政策的平衡和调节作用,司法体系发挥保障和事后监管作用,基本形成了综合性规制的整体框架,初步展现了公法规制的社会效果。(12)此时,算法辅助甚至替代行政机关行使公权力,不仅侵犯了公民的财产权,还剥夺了公民在一般行政处罚过程中享有的陈述和申辩等程序性权利,这些属于公法权利。
上一篇:Flex 六、其他内容
下一篇:没有了!
Copyright (c) 2018! XML地图SMS接码-实卡接码平台html地图