薛澜谈AI治理:全球公共产品如何建构制度
编者按:今年是APEC“中国年”。我们走访了我国多位长期深度参与APEC政策研究与外交活动的权威学者、政策智囊以及大湾区行业名家,并与他们展开深度对话,旨在呈现各方对亚太经济合作的思考,探讨粤港澳大湾区在亚太经济合作中的角色与机遇,为APEC“中国年”汇聚智慧与力量。21世纪经济报道携手前海国际事务研究院,共同推...
今年APEC迎来“中国年”。我们走访了多位长期深度参与APEC政策研究与外交活动的权威学者、政策智囊,以及大湾区行业名家,与他们展开对话,希望呈现各方对亚太经济合作的思考,探讨粤港澳大湾区在亚太经济合作中的角色与机遇,为APEC“中国年”汇聚智慧与力量。21世纪经济报道携手前海国际事务研究院,共同推出“
21世纪经济报道记者王峰、洪晓文 特约记者冯箫凝
11月19日,亚太经合组织(APEC)第三十三次领导人非正式会议在深圳顺利闭幕。人工智能是此次会议的重要议题之一。
眼下,AI作为引领本轮科技革命和产业变革的战略性技术,已经具备改变人类生产生活方式乃至深刻影响世界的巨大潜力。构建包容、普惠的全球AI治理体系事关全球公平,也会对全球发展、全球安全产生重要影响。
在此次APEC会议成功举办之际,我们与清华大学苏世民书院院长、
薛澜认为,APEC机制“小规模、多元化”的特点,更有利于达成AI治理共识,推动AI包容普惠发展;粤港澳大湾区发达的产业应用场景、丰富的治理制度框架,有利于加速构建适配AI健康发展的“
AI治理的目的不仅是应对风险
《21世纪》:最近,美国三大科技公司Anthropic、
薛澜:这些AI巨头联合呼吁放缓AI开发步伐,说明AI发展到了一个新的阶段,即AI失控的风险正在增加。
AI的安全风险可以分为三类:AI技术本身可能产生
所以,这些AI巨头一起喊话,希望AI开发慢下来,这个举动应当被肯定,他们也该马上拿出实际行动。2024年人工智能首尔峰会上,16家全球领先的科技公司作出“
AI技术走到某个阶段之后,要不要留一个“暂停”的选项?这属于根本性的治理问题。生命科学领域在划定伦理底线方面已经比较成熟。人类胚胎编辑、克隆这类研究方向,国际上形成了广泛共识,不少国家还划出了明确的禁区。AI是不是也该设一个类似的“
《21世纪》:有观点认为不需要暂缓,一旦AI触碰“
薛澜:过去不少人提过,能不能照搬监管核技术的办法来管AI。机制上或许行得通,技术层面却差得很远。拿核技术来说,提炼环节离不开大规模设备,监管方容易察觉;AI系统不一样,它更像一间实验室,要监督它是否合规,难度相当大。
两者的治理逻辑也大不相同。核技术的起点是造原子弹用于战争,从风险到危害的链条清楚,需要各国共同防控;AI技术的起点,本质上是在经济生活里落地应用,推动创新福祉扩散,风险是在应用过程中附带产生的,不确定性很大。正因如此,各国政府治理AI风险时,很难把大模型“一禁了之”。拿管旧技术的思路去解决新技术的问题,这件事本身就藏着不小的风险。
《21世纪》:AI不能一禁了之,那么AI治理到底应该怎么办?
薛澜:AI技术是指数型演进的,治理体系的演进却往往滞后,还呈碎片化,结果就是技术发展和技理治理明显不同步。监管政策制定、立法程序、标准建设,各有各的周期,都要协商,很难跟技术迭代的速度对上。
在此背景下,“边创新边治理”的“
敏捷治理
AI治理的目的不仅是应对风险,更重要的是塑造AI的“
需要改变当前的AI叙事
《21世纪》:你最近写文章提到,全球AI治理正经历历史性跨越,从“共识形成”迈入“制度建构”。可“制度建构”比“形成共识”更难,制度终究要落到约束力上。你觉得“制度建构”的重点和难点在哪儿?
薛澜:眼下全球治理最棘手的挑战,是地缘政治冲突给AI合作设了障碍。AI治理议题本来可以在技术、伦理、标准等层面广泛合作,现在却越来越多被扯进战略博弈的框子里。
要解开这个结,得换一套AI叙事。现在这套叙事讲的是:通用人工智能(AGI)的研发,是少数国家主导、大型科技企业牵头的“竞赛型项目”。按这套说法,美国的科技公司就算看到了AI失控的风险,也在呼吁科技界暂停AI研发,自己却不肯停,怕被别的公司赶超。这种叙事很危险,全球协同开发、风险共担的路会因此很难走通。
这套叙事也站不住脚。先说第一点,中美两国的科技公司并没有在争谁先摸到AGI。AGI只是部分科技公司提出的概念,还有不少公司压根不认为存在AGI这么一个特定节点,在他们看来,AI发展就是一个不断改进、不断达成新目标的过程。再看第二点,中美两国AI发展的路径并不相同,美国推崇“大数据—大算力—大模型”的
《21世纪》问:这几年国际社会在AI治理上动作不少,也有了一些成果,可治理的进展和技术的发展还是对不上,原因在哪?
薛澜:AI治理牵扯法律法规、行业标准、国际协调,是个复杂的系统,得靠不同国家、国际组织和相关企业一起参与。全球治理里存在所谓的
眼下,联合国这样的国际组织、中美这样的AI大国、微软和谷歌等跨国企业,各类国际行为体都在深度介入AI治理。这些主体在治理理念、关注议题、治理偏好、治理能力上各不相同,AI国际治理因此呈现嵌套、重叠、平行的碎片化局面,在合理性、公平性、有效性等方面存在一系列
《21世纪》问:近日,中国率先批准《关于成立
薛澜:AI治理是全球公共产品,外部性极强,一个国家不安全,所有国家都不安全,攸关全人类命运,是世界各国亟须共同应对的重要挑战。积极参与AI全球治理,是中国引导AI健康有序发展的基础和前提,率先批准《关于成立
一个非常好的AI治理试验平台
《21世纪》问:你曾指出
薛澜:联合国共有193个会员国,要让这么多国家在治理问题上形成共识,难度确实很大。APEC则是21个成员经济体,数量比联合国少,达成共识相对容易些。APEC成员的多样性也很明显:从AI发展水平看,既有中美这类AI大国,也有紧随其后的经济体,还有发展较慢的经济体;从应用场景看,各成员经济体的语言和文化各不相同,这为AI技术落地提供了丰富场景。
小规模、多元化这两个特征,让APEC成为一个非常好的AI治理试验平台。最近在深圳举行的亚太经合组织(APEC)第三十三次领导人非正式会议就提供了非常好的机遇,让大家可以共同探讨怎样有效防范AI安全风险,推动AI包容普惠发展。
《21世纪》问:粤港澳大湾区的AI产业密度高,能不能成为亚太地区AI治理规则互鉴的窗口?
薛澜:大模型走到今天,还只处在“上半场”。一个摆在眼前的事实是:AI技术能力在快速攀升,但要想很快转化成经济与社会价值,目前还做不到。除了软件、编程等少数领域,AI在很多其他领域虽有应用,经济价值却尚未充分显现。
技术已经到位,应用为何还没跟上?汽车是个很典型的历史案例。1885年,奔驰造出第一台内燃机汽车原型。可当时整个社会体系远未跟上,汽车只是奢侈品,算不上真正的交通工具。后来福特Model T把成本从大约850美元压到300美元,买得起车的人才多起来。可买车只是起点:车要跑得远,得有更好的道路;跑远了,得解决加油,加油站随之建起来;上路不能尽是“马路杀手”,交通规则和驾照体系就跟上了;出了事故,保险体系也补了上来。这一整套软硬件设施,是一步步演化出来的。
再看AI,我们其实已经有了“发动机”——大模型的能力已经相当强,但与之配套的“道路系统、交通规则、驾驶员”,也就是应用落地所需的社会系统,还没建起来。这就引出了我一直强调的“
【“
统筹:林虹
策划:洪晓文 冯箫凝
采写:王峰
监制:洪晓文 曾婷芳
联合监制:王炳云
制片:张通 柳润瑛
设计统筹:林军明
设计:郑嘉琪