马斯克"Vote red today"四字背后:美AI"暂停"之争走到哪一步
据凤凰网11月5日报道,安萨里所写的,“民主党‘首日议程’的第一项任务”,应该就是停止发展先进的人工智能、对失控的产业进行监管,并且禁止研发超级人工智能。就在前几天,马斯克还被曝光删除了自己在11月3日发布的一条支持共和党的帖子。当时美国中期选举正值投票日,这条帖子写着“Vote red today!”(今天投红色一票
凤凰网11月5日的报道提到,安萨里笔下的"民主党'首日议程'的第一项任务",指向的正是叫停先进人工智能的开发、给失控的产业套上监管,并禁止超级人工智能的研发。就在此前几天,马斯克11月3日发的一条力挺共和党的帖子被发现已删除。那时美国中期选举正赶上投票日,帖子里只有一句"Vote red today!"(今天投红色一票)。四个字说完,他没再讲自己是赞成还是反对。
这四个字被解读出了不少版本。另一件更值得留意的事是:三年前喊"暂停"的和眼下喊"暂停"的,压根不是同一拨人。
当年签字的那批人,谁也没真停下来
2023年3月,一封公开信发出,要求把训练比当时最强聊天机器人更先进的系统暂停至少六个月,署名的人里有马斯克,也有苹果联合创始人沃兹尼亚克;福克斯新闻的报道称,签名者超过1400人。到了当年6月,马斯克在法国一场科技峰会上把话说得很直:他不认为有人会真的答应暂停,但还是想讲一句"我认为我们应该暂停",给大家提个醒(网易2023年6月18日报道)。
换句话说,2023年的"暂停"是科技圈内部人冲着同行喊的,带着提醒的意味,喊的人自己都没指望被采纳。
这一回喊人,手里多了议程
2026年版跟眼下这版不是一回事。8月10日,参议员桑德斯致信三家头部人工智能公司的首席执行官,信中引用了这几家企业自己发言里出现过的话:模型一旦危险到无法控制,就该推迟或暂停。他判断这道门槛最近已经被踩过去了,信里的意思很明确——别造出人类管不住的机器(《纽约时报》、波士顿环球报转述)。这封信的路数很清楚:拿企业自己公开说过的门槛,去对照它们现在的做法。
同一天,得州众议员格雷格·卡萨尔牵头的一批众议院民主党人致信议长迈克·约翰逊,要求尽快安排大公司首席执行官出席听证;信里的判断是,国会至今没对人工智能开发带来的若干威胁作出反应,这种局面必须改。桑德斯和亚历山德里娅·奥卡西奥-科尔特斯今年还联名提出立法建议,主张暂停建设人工智能数据中心,在强有力的全国性保障措施落地之前,先把工地停住。
到安萨里这里,"暂停"已经进了"首日议程"。这条路从公开信走到致信、听证、立法,最后进了党内议程。
理由也换了:从"人类风险"变成"家里账单"
2023年那封公开信讲的是长远的社会与人类风险。三年后经媒体报道出来的由头,更像一本生活账。《纽约时报》的报道说,美国选民越来越担心这项技术抬高电费、抢走工作,一旦整个行业的泡沫破了,还会波及退休储蓄;数据中心常被一些人算作电费上涨、环境污染的账,政客也大多把矛头指向数据中心的限制。
桑德斯这封信还有一层背景:8月上旬,有科学家发表了用人工智能制造新病毒的研究;7月里,两家公司披露自家模型出现"失控",还被别家公司的模型侵入。桑德斯的意思是,这种时候公司仍砸几百亿美金往前冲,既荒唐又不负责任,还很危险。
这套话术说给的是盯着电费账单和就业前景的选民听,不是硅谷。
为什么落不了地
说到底,喊得响不等于走得出去。
头一道墙是对华竞争。2023年,共和党参议员迈克·朗兹接受福克斯新闻采访时说,中国若不跟着暂停人工智能研发,美国单方面停半年,就可能在这轮技术竞赛里落后半年到一年,等于自己捆住手脚,给对手追赶的机会。今年《纽约时报》的报道里,批评者的看法是美国单方面暂停对别国没什么影响,只会让本国产业掉队。这个观点在民主党内部也有不少人认同。半岛电视台3月26日的报道称,民主党参议员约翰·费特曼表示,人工智能的基础必须由美国制造,护栏可以设,但胜利不能拱手让给中国。
第二道墙是企业自己的节奏。有意思的是,企业内部并非没有暂停机制。按OpenAI公布的信息,公司发现新模型Astra可能触及关键网络安全能力门槛后,曾暂停部分模型的强化学习训练,并加严对模型行为的监控。这说明碰到特定风险,企业能做出局部暂停。可桑德斯要的是OpenAI、Anthropic和Meta三家头部企业停下AI开发,范围和约束力度都差着一大截。
第三道墙是白宫。半岛电视台报道,特朗普政府今年3月发布了一份四页的国家人工智能框架,主张清掉创新障碍、加快应用,同时保护儿童、管住电价、维护知识产权和言论自由。《纽约时报》说得更直接:白宫基本不会去考虑人工智能可能给家庭、企业和整个经济带来的负面影响。
《纽约时报》的报道指出,过去政治人物盯的多是限制数据中心,这两封信说明进步派民主党人想插手的地方已经挪到了开发本身。这一环内部分歧不小,费特曼就是一种。所以安萨里这条帖子眼下更像一份党内声明,离法案还远。暂停要变成法律,得闯过国会和总统两关,白宫的态度前面已经说了。两边各有各的理:喊停的怕失控,反对的怕一停就落后,可谁也没拿出能说服对方的证据。
"美丽新世界"到底在嘲讽谁
回到那四个字。赫胥黎小说里写的世界,靠技术、社会控制和人为制造的快乐维持秩序。凤凰网的观点是,马斯克或许在讽刺民主党想限制人工智能发展的那套前景,也或许是在感叹这件事已经成了美国政治斗争的主战场。
网友那边也炸开了:有人说暂停是最蠢的主意,美国一停,别人就遥遥领先;也有人挖苦说自家聊天机器人在竞争里落后,就想把比赛叫停,让所有人退回起点。
三年前签过暂停协议的那位,这次拿一本讲"被安排好的幸福"的小说来回应"暂停"。他笑的是什么,他自己没说。