IPP专访|郑永年:中美围绕人工智能的对话,不要演变成新的“核武器谈判”

IPP评论是国家高端智库华南理工大学公共政策研究院(IPP)官方微信平台

IPP专访|郑永年:中美围绕人工智能的对话,不要演变成新的“核武器谈判”

导语:

美国前国务卿基辛格曾表示:“我们生活在一个破坏性空前的世界中”,尽管人工智能(AI)所引领的未来仍旧具有极强的不确定性,但已在深刻塑造国家权力与地缘政

治格局,人工智能演变成下一次“冷战”主力武器的担忧也并非空中楼阁。

在这一背景下,AI技术的全球性发展能否实现?随着“AI主权”等概念的兴起,主要国家纷纷规划本土人工智能“法案”,未来人工智能治理会否出现各行其是的局面?中美之间的人工智能博弈又将引起什么样的后果?在接受“IPP专访“栏目采访时,郑永年教授表示,中美双方围绕人工智能的对话目前已经取得了一些成果。他表示,未来要避免中美双方人工智能对话转变成新的“核武器谈判“。双方人工智能发展的不同模式实际上为双方合作提供了互补空间,“矛”与“盾“之间并不只是冲突,还可能隐含着合作的机会。

郑老师您好!我们知道,“人工智能治理”目前已经成为了全球性的议题。近日,中法两国特别就人工智能和全球治理发表联合声明,其中提及双方将加强人工智能全球治理上的合作。此前,美国国务卿布林肯访华,尽管中美双方明显存在有许多矛盾和不同意见,但还是就人工智能领域的对话达成了共识。

但与此同时,美国近来意图出台法案限制AI大模型的对外出口。包括TikTok禁令事件的背后,也牵涉到数据流动以及人工智能技术。

一方面各国强调共同治理,但同时又各自为政,甚至视彼此为对手。您怎么看待这一趋势?

郑永年:人工智能这一议题现在已经是大国对话避不开的话题,我记得基辛格老先生曾说:“中美需要展开严肃对话的领域就是人工智能”,他还提出,中美之间的人工智能谈判就如同冷战时期的核武器谈判。

冷战期间,美苏双方都积累了足以毁灭对方的核武器库,对彼此的致命威胁迫使双方坐下来谈判,所以核武器既是美苏冷战对峙、博弈的核心,也是双方对话的窗口。

IPP专访|郑永年:中美围绕人工智能的对话,不要演变成新的“核武器谈判”

核威慑基于相互保证毁灭(Mutually Assured Destruction, MAD)的概念,双方都有能力在受到核攻击后对对方发起毁灭性的反击。图源:wikimedia commons基辛格认为,现如今气候、公共卫生、核不扩散等议题都已经无法令中美真正坐下来谈判,唯有人工智能可以做到这一点。因为人工智能所带来的潜在威胁,对中美乃至世界都具有毁灭性。相比于运用方式单一、且静止存在的核武器而言,人工智能是抽象的、运动的,涵盖了大数据、机器人技术,渗透进政治、经济、社会生活的方方面面,构成了一个生态系统,并正在重塑人类的生产生活。从这一角度看,AI对全球地缘政治秩序以及人类社会的影响深度甚至可能超过核武器。所幸的是,中美这两个大国目前关于人工智能领域的对话还是有一些基础的。去年年底,中美领导人旧金山会晤,双方达成建立中美人工智能政府间对话机制的共识;随后布林肯访华,包括前不久两国代表在瑞士日内瓦举行中美人工智能政府间对话首次会议,也都分别取得一些成果。尽管可能受到美国二元对立思维等多方面因素的影响,双方分歧明显存在,但持续对话就是好的兆头。

IPP专访|郑永年:中美围绕人工智能的对话,不要演变成新的“核武器谈判”

国家主席习近平在美国旧金山斐洛里庄园同美国总统拜登举行中美元首会晤。 图源:新华社实际上,尽管在人工智能领域竞争激烈,中美之间不同的AI发展模式还是为双方提供了许多对话与互补的空间。美国在大模型技术、算法研发等方面处于领先地位,而中国在技术监管、大数据应用等方面有一定优势。我常比喻说,科技发展这辆车,既需要“发动机”也需要“刹车”。美国人工智能技术发展的齿轮目前正在高速运转,科技巨头源源不断产出新的技术成果,比如SORA、ChatGPT4.0等等,一方面就是因为它没按“刹车”——美国对人工智能一直采取放任自由的方式,几乎没有联邦层面的监管框架,只有州层面的立法。

IPP专访|郑永年:中美围绕人工智能的对话,不要演变成新的“核武器谈判”

美国部分州正在学习欧盟AI立法经验 图源:新华社

所以也可以说,美国的人工智能是“矛”,更强调攻击性,而中国的人工智能更像是“盾”,强调防御性。我认为这两者并不只有冲突,其实也能实现相辅相成,为双方提供互补的空间。目前人工智能发展以及监管的缺失已经给美国社会发展带来了一些深层次的隐患。比如AI生成内容(AIGC)制造假新闻、隐私数据泄露等,AI已经被用于深度造假和制作误导选民的内容。

美国有人使用AI工具生成“假拜登”给选民打电话,呼吁选民在州初选中不要投票。由于AI工具越来越廉价,在缺乏监管的情形下,任何人都可以使用AI工具来破坏美国选举,这让美国一些政客深深担忧。

IPP专访|郑永年:中美围绕人工智能的对话,不要演变成新的“核武器谈判”此前,多家科技企业在慕尼黑安全会议上签署协议,承诺在今年多国选举中监管AI。 目前,美国两党都有推进人工智能监管的声音,只是在监管力度上有所分歧。而一些科技公司在奋力通过游说等方式阻止,它们提出的一个重要理由就是“来自中国的竞争”。总而言之,如果美国的人工智能继续无监管式地发展,将带来社会层面的负面影响。而中国在人工智能监管和规则建立上相对来说进展要好一些。所以我一直说,中美在人工智能上可以互相借鉴,美国尤其应该学习中国的一些监管举措。但不幸的是,钳制中国在AI上的发展是美国的优先事项,如果这一趋势继续发展,或许会出现冷战时期核武器竞赛的局面——尽管如此,最终美苏两国还是坐下来谈判了。但是美苏的核武器谈判,可以说是一种互相警惕的“冷和平”。我个人还是希望中美的人工智能谈判,不要变成这种新的“核武器谈判”。因为人工智能与核武器不同,核武器大多数时间是作为一种威慑存在,相对而言远离人类生产生活,但人工智能已经是我们个人每天都在接触的东西,如果其演变成纯粹的战略竞争工具,于各自国家而言都是一种灾难。而且AI技术会流动和扩散,是很难进行彻底限制的处在全球化之中,中国和美国都不可能完全排除对方的人工智能。所以,我认为中美在人工智能上有很多需要深入对话的空间。尽管美国现在想要实现AI上的绝对领先地位,但在我看来,美国在某些方面还是过于高估自己。中国在人工智能的商用应用上非常聪明,我们有很大的机会赶超美国。但我们也需要自我反思,我们是监管导向型的,我们下一步也需要学习美国推动人工智能的发展的模式。既然造“刹车”上我们已经做得很好了,现在要想办法刺激“发动机”的发展。我希望中美两国元首已经达成的共识能成为一个好的起点,希望中美的人工智能谈判能让双方找到更多互学互鉴的地方,这对两国发展和世界和平都有好处。你刚刚也提到中法人工智能的联合声明。纵观全球人工智能发展格局,欧洲是另外一种AI发展模式。前段时间欧盟理事会正式批准的《人工智能法案》,其中对“AI风险”的防范可以说贯穿始终,欧盟按照所谓“对社会的风险程度”给AI进行了严格的等级划分,重规背后自然就是重罚,来对人工智能企业进行威慑。这种监管模式也引发了许多担忧——首先会对在欧盟开展业务的公司有很大影响,也有可能阻碍创新,尤其是生成式人工智能方面的创新。

IPP专访|郑永年:中美围绕人工智能的对话,不要演变成新的“核武器谈判”

哥本哈根经济研究所的报告称,欧洲生成人工智能领域不存在“直接竞争问题”,因此不需要监管干预。图源:新华社实际上,欧洲虽然在规则建立上领先,但其在互联网人工智能竞赛中,很多方面已经落后于美国,甚至落后于中国。因为欧盟完全是规则导向型的发展模式,规则太密太严,包括数据层面上的,一定程度上阻碍了发展步伐。现在人工智能领域最大的几家公司都位于美国,而这些公司实际上又垄断了当前技术的发展。现在欧洲国家自然都不想看到美国在AI领域实现“霸权”,也在积极促进投资、寻求合作。*文字内容根据郑永年教授采访录音整理而成,略有删改。采访|刘深文稿整理|周浩锴实习生|康淆茜 赵欣然郑永年:新质生产力与中国式现代化|IPP未来论坛

IPP专访|郑永年:中欧关系间的“杂音”从何而来?

IPP专访|郑永年:欧洲对华“远近亲疏”各不同,怎么交朋友?

关于IPP华南理工大学公共政策研究院(IPP)是一个独立、非营利性的知识创新与公共政策研究平台。IPP围绕中国的体制改革、社会政策、中国话语权与国际关系等开展一系列的研究工作,并在此基础上形成知识创新和政策咨询协调发展的良好格局。IPP的愿景是打造开放式的知识创新和政策研究平台,成为领先世界的中国智库。IPP专访|郑永年:中美围绕人工智能的对话,不要演变成新的“核武器谈判”

Like (0)
Previous 2024 年 6 月 4 日 下午8:46
Next 2024 年 6 月 4 日 下午9:16

猜你喜欢