AI治理:人类控制AI的窗口正在缩小
导读:真正需要警惕的,不是科幻电影中AI突然成为人类的敌人,而是人类在科技竞争、资本竞争和地缘政治竞争中,不断扩大AI的能力边界,却没有同步建立足够强大的安全护栏 随着人工智能(AI)正以“令人难以置信”的速度发展,近期有不少国内外机构发出警告,AI的影响已从生产效率延伸到生物安全、网络安全以及人的社会关系等多个领域。
真正该警惕的,并非科幻片里AI忽然变成人类的敌人。更现实的风险在于,科技竞争、资本竞争和地缘政治竞争叠加之下,AI的能力边界被不断撑大,安全护栏却没有同步跟上。
人工智能的发展速度被形容为“令人难以置信”。近期国内外多家机构接连发出警告,AI的影响已从生产效率延伸到生物安全、网络安全以及人的社会关系等多个领域。AI是否正在脱离人类控制?这个问题越来越难绕开。2026全球治理论坛(雄安)发布的《论坛愿景文件》专门提到,要高度重视并积极化解人工智能可能引发的技术、伦理等各类风险,防范滥用恶用,将人工智能始终置于人类掌控之下,让人工智能这匹千里马既跑得快又跑得稳。
假如“失控”指的是AI突然有了意识、甩开人类反过来统治人类,那目前显然没有这样的迹象。可要是“失控”说的是AI能力增长的速度,已经快过人类社会立规矩、调制度、应对风险的速度,这种趋势就值得高度警惕了。
传统技术的能力边界被突破
以往的技术革命,主要是机器替人出力气、干重复性的活;新一代人工智能则不同,它开始进入语言理解、知识分析、代码编写、科研辅助乃至复杂任务执行等领域。AI不再只是被动听命行事的工具,而是具备了一定程度的自主规划、工具调用和任务执行能力。换句话说,过去相对由人类独占的“认知空间”,AI正在走进去。
问题也跟着变了:以前我们关心的是“AI会不会犯错”,现在越来越需要盯住的是“当AI越来越强大,人类是否还能够有效地说不?”
医疗、金融、交通、能源、公共治理等领域,AI已经参与到重要决策当中。理论上最终决定权还在人手里,但决策者如果越来越依赖AI给出的判断,又真正理解不了它的推理过程,也没有足够能力和时间去独立验证,那“人在回路中”就可能慢慢沦为一种形式上的安全保障。
更值得警惕的是,AI正在进入几个传统治理体系最难覆盖的领域。
头一个是生物安全。AI能辅助药物研发、分析复杂的生物信息、设计实验方案,这些本事可以推动医学进步,但也带有明显的双重用途属性。过去监管的重点是实验室、实验材料和实验人员,今后还得回答另一个问题:如果AI把获取复杂生物知识的门槛显著拉低了,传统生物安全防线还管用吗?
第二个是网络安全。AI既可以帮助防御者发现漏洞、分析攻击,也可能被用来生成恶意代码、寻找系统弱点、自动化实施攻击。网络攻击的专业门槛不断下降,传统网络安全体系将面临新的挑战。
再就是社会心理领域。生成式AI能够模仿人的语言和沟通方式,正从信息工具逐步走进教育、咨询、陪伴乃至个人决策。如果AI不只能告诉人“发生了什么”,还能根据个人特点持续影响“你相信什么、选择什么”,它的社会影响就会超出传统信息传播的范畴。
全球AI治理不能再慢半拍
国际社会对AI的迅猛势头其实早有反应。联合国、欧盟以及不少国家和国际组织这些年都在推动人工智能治理。联合国已经开启全球人工智能治理对话,还设立了人工智能独立国际科学小组,想给全球AI风险评估和规则协调搭一个共同的底子。
中国同样一直在参与全球AI治理。2023年提出《全球人工智能治理倡议》,强调发展和安全要兼顾,推动人工智能朝着安全、可靠、可控、公平的方向发展;2025年又推出配套行动计划,把安全可控、公平普惠、开放合作摆在突出位置。问题是,眼下的全球AI治理还卡在一个地方:技术是全球化的,治理却基本还按国家来;AI企业跨着国境运营,监管却有明显的地域边界;AI风险会向全球外溢,治理体系却相当碎片化。
各国都怕自己在AI竞争中落后,于是不愿率先放慢脚步,这样就容易形成一种危险的“囚徒困境”:大家都清楚AI需要安全护栏,却都担心自己“踩刹车”后丢掉竞争优势。所以未来AI治理的重点,不应是阻止AI发展,而应当是建立一套能够让AI“有边界地加速”的制度体系。
第一步,得把全球AI风险评估和预警机制建起来。AI能力到底长到了什么程度、哪些能力正在被突破、可能带来哪些跨境风险,国际社会需要持续去评估,并推动形成一个更透明、更客观的国际评估体系。
第二步,要划出AI能力分级和风险红线。普通办公、教育这类低风险应用,可以更多交给行业规范和透明度要求去管;生物安全、网络攻击、金融系统、关键基础设施和军事等高风险领域,则要配上更严的测试、认证、访问控制和人为干预制度。
第三步,要把“人类最终控制权”原则立住。核武器使用、重大军事行动、关键基础设施控制这类重大事项,不能让AI拿到不可逆的决定权。医疗、金融、司法等领域同样得守住这一条。
防止AI治理被阵营化
AI治理正成为全球科技竞争的新领域,中国不仅在完善国内治理体系,同时也积极参与国际规则制定。
一头是推动建立覆盖AI研发、训练、部署、应用和退出的全生命周期治理机制,重点增强工业、能源、金融、交通等关键领域的安全评估和人为干预能力。
另一头是让全球AI治理更开放、更包容,别让安全规则变成新的技术壁垒。发展中国家的AI能力建设尤其要关注,算力、人才、基础设施等方面的国际合作要推起来,避免再冒出一道“智能鸿沟”。
更要紧的是,别让AI治理被地缘政治拉成阵营。一旦未来全球冒出彼此封闭的AI技术体系、标准体系和治理体系,AI就不光难当促进全球发展的工具,还可能变成大国竞争的新工具。
说回“AI是否已经脱离人类控制”,答案也许是:AI还没脱离人类控制,但人类控制AI的窗口在收窄。算力、能源、数据、芯片、基础设施以及AI部署权,今天还握在人类手里。可技术能力涨得快,法律、制度和治理体系的建立往往要慢得多。
科幻片里AI突然反目成仇的桥段,其实并非最该担心的事。真正要防的是另一幕:科技竞争、资本竞争、地缘政治竞争几股力量推着AI的能力边界不断外扩,安全护栏却没跟上同样的步子。
因噎废食不可行,想彻底叫停AI发展也做不到。能走的路只有一条,就是给AI的加速划出边界:创新可以搞,红线不能碰;竞争可以打,关键领域的最终控制权得留在人手里;技术可以跨国流动,但最低限度的国际安全规则得建起来。道理很直白,AI越跑越快,规则要是始终落在后头,机器哪怕没真的“失控”,人也会慢慢抓不住缰绳。人类眼下还攥着算力、能源、数据、芯片、基础设施和AI部署权,控制的口子却在收窄。技术能力蹿得快,法律、制度、治理体系的搭建历来慢半拍。
说到底,AI时代要守住的那条“边界线”,不在于拦着机器变聪明,而在于机器再强,往哪个方向走的最后决定权也得留在人类手上。(作者是赛迪研究院研究室主任、研究员)