方兴东

随着人工智能（AI）浪潮席卷全球，世界各大国与组织无不将目光聚焦在AI技术的发展与治理上。11月20日至22日，以“拥抱以人为本、智能向善的数字未来——携手构建网络空间命运共同体”为主题的2024年世界互联网大会乌镇峰会（以下简称“乌镇峰会”）隆重举行。峰会围绕AI技术创新与治理、赋能新质生产力等议题，旨在促进以AI为代表的数字技术更好地造福人类。

进入第十一个年头，乌镇峰会已成为观察与讨论中国和全球网络进程的重要窗口与平台。2014年乌镇峰会的主题为“互联互通·共享共治”，彼时人们关注的还是互联网如何更好地将全球连接起来。几乎所有的中美互联网企业都在构思如何进入对方的市场，鲜有人能想象到美国将破坏这种繁荣。

技术在变，产业在变，话题在变，不变的是早在首届大会便提出的“网络空间命运共同体”理念，始终如一。可以说，十一年来乌镇峰会走过了移动互联网的黄金时代，如今迈向智能时代的全新十年，世界正迎来AI的全面爆发，“古登堡时刻”就在当下。世界各国都在努力抓住AI发展的机遇，也同样担忧AI的全球性风险。矛盾的是，人与人、数据与数据、国家与国家已通过技术前所未有地连接在一起，但也不得不面对前所未有的撕裂和传统格局冲突。在新的超连接时代，如何找到各方和谐共处之道、重建大国间合作信任，依旧是时代的关键议题。

乌镇峰会见证了技术、产业、社会和国际环境的急剧变化与革新。2014年，我们渴望与全球沟通；而今天，所有的沟通和话题已与全球同频共振。网络空间作为全球开放一体化的复杂系统与基石，数字技术的侧重点从人与人互联的社会数字化，转向更加全面联结的全球数字化。全球围绕AI发展与治理的联动协作提升到了全新高度，也让乌镇峰会的全球视野与格局登上新高。

十年来，AI技术也完成了脱胎换骨的变化。十年前，AI虽是科技巨头的战略方向，但对其应用场景的设想也不过集中在人脸识别、图像处理和语言识别等特定场景。而今天，AI已是名副其实的通用目的技术，深度嵌入世界各国的社会各层面与各行各业。当年我们只顾得上考虑如何发展好AI，现在如何治理好AI、避免给人类带来灭绝性风险，成为全球最关注的热点。

今天的全球AI治理进程可谓“行百里者半九十”。虽然世界各国形成了系统性的基本共识，各大全球组织和机构也发布了相对一致的原则、规范和倡议，但真正全球性的有效机制和机构依然缺位，使这些共识和规范始终处于悬置状态，无从落地。

AI治理最大的挑战不在技术而在于人，AI最大的风险不在于智能而在于全球协作。与其他传统治理一样，AI治理的本质并不是AI自限制或技术防范，而是人的治理，是人对技术与社会的规范、对秩序与命运的掌控。AI武器化、AI犯罪等风险频发，在应对现阶段AI风险中大国合作更是关键。如果大国不能良好合作，人类社会将置身于巨大的不确定性和风险之下。

值得欣喜的是，中美两国此前已建立中美人工智能政府间对话，近期又首次达成人类应控制核武器的共识，表明了两国在涉及全球安全的重大问题上仍愿意寻求共识和合作的积极走向。