全球人工智能治理动向及启示

2023年11月，首届全球人工智能安全峰会在英国召开，中国、美国、欧盟等28个经济体共同签署了全球首份人工智能国际性声明《布莱切利宣言》，标志着人工智能治理进入了从全球共识走向全球共治的新阶段。2024年6月，国家主席习近平向联合国贸易和发展会议成立60周年庆祝活动开幕式发表视频致辞指出，要坚持以人为本、智能向善，在联合国框架内加强人工智能规则治理。

人工智能是新一轮科技革命和产业变革的重要驱动力量。近年来，美欧等国家和地区在加快实施人工智能发展战略的同时，加强了立法和行业规范制定，试图抢夺新一轮科技治理规则制定的主导权。我国要在借鉴美西方先进治理经验的同时，结合发展需求，从治理规则、治理手段、治理技术三个方面着力，加快构建并完善人工智能治理体系的中国方案。

一、全球人工智能治理现状与趋势

全球治理的概念最早是由美国学者James N. Rosenau提出，他认为全球治理是为了实现人类活动规则体系而采取的具有超出国界影响力的管理机制与控制活动。依据这个概念，可见全球人工智能治理的主要遵循是超出国界影响力的科技规则体系。当前，人工智能治理已成为大国竞争的主要战场，人工智能的国际竞争重点正从战略部署、科研投入、产业布局和市场争夺等进一步延伸到国际规则制定和国际治理主导权争夺。

（一）从“域内监管”走向“全球共治”

近年来，为避免在人工智能发展浪潮中处于落后被动局面，美西方积极对人工智能进行战略部署，并出台相关技术监管政策，争夺人工智能治理的全球主导权。2023年10月30日，美国总统拜登签署首个关于人工智能的行政令——安全、可靠和可信开发使用人工智能。该行政令要求美国科技行业制定安全保障标准，引入新的消费者保护措施。同日，七国集团（G7）发布《开发先进人工智能系统组织的国际行为准则》，就开发先进人工智能系统的公司的行为准则达成一致。这表明美国正在调整人工智能监管方式，意在拉紧盟友，加快打造全球治理民主联盟。此外，从2023年的日本领导G7“广岛人工智能进程”、英国举办“人工智能峰会”、印度作为人工智能全球伙伴关系主席国，再到2025年2月法国“巴黎人工智能行动峰会”等行动来看，全球共治成为未来人工智能治理的一个总趋势，但是呈现出各自主导的“小院高墙”，全球治理主导权争夺初现端倪。

（二）从“源头治理”走向“全面治理”

人工智能的治理与发展相伴相生。在弱人工智能时代，抓住基础层的算法及数据和技术层的模型进行重点治理即可，重点把控人工智能技术引发的数据隐私和监视问题，以及技术应用产生的伦理问题；进入通用及强人工智能时代，越来越多行业、领域引入人工智能技术，除基础层和技术层、应用层的风险源及主体越发多元，人工智能自主决策对他人造成伤害的责任追究、自主生产造假和知识产权侵犯等风险也越发复杂，治理外延不断拓宽，已延伸至安全、人才、投资等领域，治理新时代全面开启。2024年8月1日，全球首个全面监管人工智能（AI）的法案——欧盟《人工智能法案》正式生效。法案内容包括对AI系统安全性、透明度、可追溯性、公平性和道德标准的评估和管理，以及对AI系统监管、执法和司法审查等方面的规定。该法案将提高AI系统的透明性和公平性，并推动全球范围内人工智能监管体系的建立和完善。

（三）逐步迈入“创新”与“监管”平衡之道

从博弈论的视角来看，当下人工智能治理在技术标准制定等竞争性领域呈现零和博弈的特征。因为这类政策的执行，常会使一方获利，而另一方受损。因此，人工智能监管对创新的抑制问题逐渐得到关注。近年来，美国陆续发布《人工智能权利法案蓝图》（2022年）、《人工智能风险管理框架》（2023年）等文件，但这些均是非强制性指导文件，仅供设计、开发、使用人工智能系统的组织自愿执行，为人工智能创新发展创造了较为宽松的“软环境”。与美国相对自由的治理做法形成鲜明对比，欧盟希望通过《人工智能法案》对人工智能进行“强监管”，但在法案的第12部分中，仍然有“支持创新”的专门章节，提出监管沙盒等鼓励创新的监管举措。在强化监管和促进创新之间如何保持平衡，已经成为各国治理政策的主要考量。

二、美欧人工智能治理举措与特点

面对日益被人工智能塑造的世界，各国政府纷纷寻求合适的监管框架来指导和规范其发展，不同国家或地区正在有针对性地制定独特路线，以应对人工智能带来的挑战。我们重点对美国和欧盟的一些治理举措进行梳理，分析其特点和可鉴经验。

（一）美国人工智能治理举措及特点

美国在AI治理方面始终将技术发展放在首位，通过投资技术研究、赋权企业自治等方式，促进美国AI的有效治理。（1）依靠技术治理技术。美国政府及企业重视依靠技术投资及可信工具/系统开发提供技术治理保障，通过保障关键基础设施的安全性和复原力、开发架构的韧性及系统的可信等举措来降低技术及应用层面的威胁。例如，2023年9月，国防部启动名为“校准信任测量和评估中心计划”试点项目，以评估人工智能系统的可信度。（2）加强宏观监管的同时，鼓励企业自治。2022年10月，白宫发布《人工智能权利法案蓝图》，为人工智能系统设立了安全有效的系统、算法歧视保护等五项原则，美国各州也通过立法来治理偏见歧视等问题。在具体技术及应用治理方面，美国政府将监管权交还企业。2023年7月和9月，美国白宫先后两次发表声明，宣布微软、谷歌和OpenAI等公司，及Adobe、Cohere、IBM、英伟达等8家公司，采取自愿监管措施管理AI技术开发及应用中的风险。（3）构建国际国内利益相关体的协同治理体系。美国通过举办听证会等形式，鼓励公众、企业、行业协会、工会等利益相关体在政府制定国家战略或决策时提意见，在国际上，加强国家间的联盟，构建AI治理体系。2023年11月28日，美国与英国、德国等18个国家签署协议，推动设计和使用AI的公司以确保客户和公众免受滥用的方式进行开发和部署，敦促企业让AI更加安全。

（二）欧盟人工智能治理举措及特点

与美国不同，欧盟对AI等新兴技术的发展持审慎态度，强调治理优先，并进行统一治理。（1）基于“伦理优先、全面监管”的原则推动全球首个人工智能立法。欧盟在AI治理方面一直走在前列，通过构建完善的伦理及法律体系，提出了详细的人工智能风险等级划分标准，构建了覆盖人工智能产品从研发到应用全过程的风险治理体系，确保在世界AI治理领域的影响力与领导力。（2）通过AI治理参与中美欧竞争，实现技术主权。据欧盟委员会联合研究中心（JRC）数据，欧盟27国的人工智能企业数量位居世界第三，仅次于美国和中国。但从发展势头上看，与中美存在差距，基于这个事实，欧盟通过加强治理，构建人工智能产品、基础设施等国家标准和治理规则，试图主导全球人工智能技术发展。（3）积极推动国家间务实的治理合作。欧盟通过《人工智能协调计划》推动成员国与第三国之间治理合作。成立欧洲算法透明度中心（ECAT），对人工智能国际合作开展监测评估，确保人工智能平台算法的合规性。

（三）中美欧人工智能治理比较

近年来，中美欧均相继出台或将要出台较为权威的人工智能治理政策（中国正在制定的《人工智能法》、欧盟已生效的《人工智能法案》、美国总统发布的《关于安全、可靠和可信的AI行政令》），由于人工智能政策与地缘政治、科技博弈等因素息息相关、紧密交织，目前中美欧对于人工智能治理的方式和特点仍然存在较大差异（见表1）。尽管在可解释性、数据保护、禁止偏见、滥用技术等方面存在治理共同点，但整体来说，欧盟已出台全球第一部关于人工智能领域全面监管的法规，并对在极端情况下违规的企业处以3 000万欧元或者全年收入6%的高额罚款，在体系化分等级监管方面，也将对全球人工智能产业发展产生深远影响；美国则针对具体行业，提供了风险评估和风险管理的框架，采用非强制性监管方式，鼓励相关企业自治；中国相对而言介于美欧之间，以人工智能管理、研发、供应、使用等活动的规范引导为主，既考虑“软”治理，又积极制定《人工智能法》、兼顾“硬”监管。 

表1 中美欧人工智能治理比较

三、我国人工智能治理面临的挑战

一方面，美西方主导规则下的治理规则政治化、联盟化风险加剧，影响我国治理国际化进程。美西方将人工智能所涉及的个人隐私、人权等问题意识形态化，以所谓“民主价值”推动建立标准联盟，尤其是在中国参加首届全球人工智能峰会前，美西方关于“限制中国参加AI峰会”的激烈讨论，更是凸显出我国在人工智能领域参与全球治理的被动局面。

另一方面，我国人工智能治理手段单一，以技术治理技术的“智治”能力较弱。我国目前对人工智能的治理还停留在伦理指南和制度约束上，通过发布《新一代人工智能治理原则——发展负责任的人工智能》《新一代人工智能伦理规范》《生成式人工智能服务管理暂行办法》《关于加强科技伦理治理的意见》《网络安全标准实践指南——人工智能伦理安全风险防范指引》等文件，重点把对创新主体科技伦理管理的主体责任作为主要抓手，还缺乏针对推进治理现代化的技术研发引导，没有充分发挥人工智能提升治理能力的作用。

四、对策建议

当前，人工智能治理正加速进入全球共治新阶段，我国亟须增强人工智能现代化治理能力，深度参与全球科技治理，贡献中国智慧，提升国际话语权，抢占人工智能发展主动权。

第一，从域内迈向域外，加快我国人工智能治理规则的国际化进程。加快制定生成式人工智能安全相关国际标准，研制修订重点领域人工智能基础标准和安全标准。以推进落实《全球人工智能治理倡议》为契机，增强发展中国家在全球治理中的代表性和发言权。积极参与联合国、国际电信联盟等国际组织的人工智能治理工作，推动组建人工智能治理国际组织，确定组织权利义务，对涉及跨国属性的科技活动进行审查、监督、管理等，明确设定人工智能安全等级、落实主体责任、保障各国公民在跨国科技活动中的权利等。推动建立完善跨国人工智能治理信息平台，促进各国人工智能科技活动治理情况、治理进度、治理措施等信息共享。推动多边协同共治，通过对话合作、凝聚共识，共同构建开放、公正、有效的协同治理机制。

第二，坚持促进创新和依法治理相结合，健全灵活、多维的人工智能治理手段。进一步发挥国家科技伦理委员会、国家新一代人工智能治理专业委员会的统筹指导作用，加强人工智能风险评估、伦理规范和相关法律问题研究，提高技术评估和风险评估的科学性和客观性，加快推进制定《人工智能法》，以适度灵活的法治手段适应新技术范式，避免损害企业创新活力和信心。建立人工智能风险监测预警平台，加强人工智能国家安全风险防范。加快制定关于人工智能分级分类治理的指导办法，依据人工智能应用行业的不同特点，制定差异化治理规范和标准，研究建立分级分类的场景化治理机制，以适应人工智能应用的快速迭代。探索治理试点、应用示范、监管沙盒等鼓励创新的监管措施，对技术创新给予更大包容度和试错空间。加强对企业治理的政策宣讲，推动企业自我净化和自我规范。

第三，兼顾可信与智治，增强我国人工智能现代化治理能力。推动践行“负责任人工智能”理念，加速实现可信人工智能技术可操控、可解释、可问责，降低技术应用所带来的不确定性和风险因素。构建可信人工智能基础设施，从开发到部署全周期采用伦理嵌入设计，对人工智能训练数据、模型、应用治理环节实施全周期安全可信治理。开展模型质量保障、数据安全评估等安全技术研发，通过技术治理手段强化大模型安全支撑。开发利用智能技术支撑治理，例如，用人工智能来识别违规内容、自动生成内容、欺诈信息等，构建基于人工智能技术支撑的数字化治理平台，实现全时空、跨领域、跨部门的智能化治理。加强人工智能技术与社会治理场景的深度融合，建立基于人工智能技术支撑的决策体系，以感知社会运行情况、识别潜在风险态势、预测政策演变结果等方式，及时、科学、有效地支撑决策。