赫拉利谈AI:别指望超级智能,会学习的“扫帚”才是麻烦
内容来源:尤瓦尔·赫拉利分享整理。责编 | 二月 第 9968 篇深度好文:4178 字 | 11 分钟阅读商业思维“AI不会达到超级智能,不会比人类更聪明,这也许是最好的情况。”前段时间,历史学家赫拉利和《经济学人》副主编罗伯特·格斯特聊了一个小时AI。开场格斯特抛出一个问题:迪士尼动画《魔法师的学徒》里,米老鼠念咒
商业思维

“AI不会达到超级智能,不会比人类更聪明,这也许是最好的情况。”
前不久,历史学家赫拉利与《经济学人》副主编罗伯特·格斯特就AI聊了一个小时。开场时,格斯特抛出了一个问题:迪士尼动画
赫拉利的回答是:动画里那把扫帚只按指令行事,而今天这把扫帚会自己学习。它会干出我们没让它干的事,到头来干出我们压根看不懂的事。
本次访谈的精编整理版如下,希望对你有所帮助。一、AI是一把会自己学习的扫帚,谁都管不住它
《魔法师的学徒》
那把扫帚不过是在照米老鼠最初下的命令办事——打水。AI却不同,它是一把会学习的扫帚。
它会一点点长大,开始干出米老鼠料想不到的事,末了还会做出米老鼠根本弄不明白的事。
过去一周,AI一下子公布了一大批证明,啃下来的都是数学家祖祖辈辈死磕的难题。多出来的不只是几条新知识,我们也许正站在一个关口上:AI很快就要造出人类理解不了的新数学。
今天的世界,一切都架在数学之上。物理、化学不用说,金融体系、考古学、遗传学,也全都架在数学之上。这把扫帚要是真发明出一套我们再也看不懂的新数学,那才叫真正的失控。
眼下听到的信息自相矛盾。企业一边告诉我们,这东西会比我们聪明得多,能解出新的数学问题,能找到治癌症的办法,能应对
另一边,他们又绝口不提另一件事:它要是真比我们聪明那么多,那按定义,我们就控制不住它。
翻遍历史,甚至放眼整个生物界,都找不出一个物种能控制住另一个比自己聪明得多的物种的先例。
鸡再努力,也控制不了我们。马斯克、奥尔特曼这些人说,再过几年,AI这玩意儿就会远比人类聪明,就像人类远比鸡聪明一样——我要是信了这话,那就不只是聪明一点,而是高出几个数量级。
马斯克确实说过,它说不定会像对待得宠的宠物狗那样养着我们。可我们并不清楚它到底会怎么做,这才是麻烦所在。面对一个智力超过自己的存在,这种假设不能做。
聊AI革命的人一遍遍地漏掉这件事:你要是还能预测它的行为,就说明它并不比你更聪明。
二、AI泡沫崩盘, 反而是人类最好的结局
讲个故事,什么叫“智力碾压”,一听就明白。
设想一家大型农业企业债务缠身、最终破产,清算方进场后把养殖场里的鸡全部宰杀。临死前,最机灵的那只鸡想讨个说法:我琢磨明白了,你们这是要吃我们——狐狸吃我们,熊吃我们,你们也一样。
人类回答说,不,我们不吃你们,只是要把这里的一切毁掉、把你们埋了,没人会动你们一口。鸡接着追问:那干嘛还要杀我们?
人类给出的理由是:十年期国债收益率涨到了5.3%。
那只鸡用翅膀蹭了蹭脑袋:国债是什么东西?这个问题,哪怕最有同情心的动物保护人士也答不上来——没法跟一只鸡讲清楚国债。而这只见不到明天、到死也没弄懂“国债”二字的鸡,或许正是十年后的我们。
十年之后,架在新的AI数学之上的AI金融体系会宣布:关掉你们,解雇你们。你想要个解释,它只会告诉你:这超出了你们的理解能力,我们倒想解释,可你们的大脑处理不了。
有人会反驳:你说的这套AI金融体系眼下并不存在。对,就像AI治癌症的新疗法还不存在,马斯克的火星殖民地也还不存在。可后面这件事,已经从投资人手里筹到了八百亿美元。
再看今天的金融体系,里面塞着多少连内行都说不清的黑盒子。全球金融危机的一个成因,就是人们压根没真正搞懂担保债务凭证(CDO,把房贷等债务打包再拆分的金融产品)究竟是怎么一回事。
人类银行家记不住银行做过的每一笔交易,AI记得住;人类银行家要睡觉,AI不用。所以,在超级智能AI与人类投资者、银行家、财政部长之间,这场金融竞争压根不在一个层级上。
由此我得到一个听着吓人的推论:假如有人说超级智能不过是硅谷在吹牛、AI根本不会比人更聪明,那反倒说明我们运气最好。道理在于,押在AI上的这几万亿美元,想回本的唯一前提就是AI必须远比人类聪明;一旦最后证明它只是跟人聪明得差不多,这几万亿就会砸出一场股市崩盘。
不过,跟变成那只怎么解释都听不懂的鸡相比,投资人股票账户里亏掉的钱,已经算最轻的后果了。
三、AI抢走的不是出租车司机,而是律师和会计师
这东西一来,比人聪明,还会端走不少饭碗,那我们一天到晚该干点什么?
在我看来,各个国家的处境会差得很远。
美国那边,局面很可能不算坏,甚至能挺好。超级智能要是真落地,起码短时间内,美国经济会迎来一波大繁荣,还会冒出今天压根想不到的岗位。三十年前,谁能想到拍(海外视频平台)视频也能当成一份职业。
苦头会落在世界上其他不少地方,比如我脚下这块捷克。而且最先挨打的不是开出租的,是律师、会计师、银行家这类金领。
你琢磨一下,得克萨斯州要是有个超级智能的AI律师,全套法律服务都能给你办,你干嘛还非得找布拉格的律师?
捷克没有哪个律师能把捷克和欧盟的法条全背下来,AI律师可以。捷克律师要睡觉,你晚上八点发邮件,他保不齐第二天才回;AI一秒就答复,收费还只是捷克律师的零头。那十年以后,捷克还有律师这行吗?
有人会讲,AI造出这么多财富,政府大可通过全民基本收入(UBI,不问条件给所有公民发钱的制度)给每个人发钱。
问题是这里头有个坎:你猜美国政府会把钱发给全世界所有人,还是只发给美国人?
大家嘴上说的是“全民基本收入”,落到实际就成了“本国基本收入”。这套在美国也许行得通。可孟加拉国失业的纺织工人谁来养?布拉格失业的律师那张支票谁来开?至少我看不出来,现在的美国政府或者以后的美国政府,会往全世界寄支票。
可就算吃穿用度的问题都摆平了,人就没烦心事了?跟石器时代的祖先比,我们早就活在丰裕里了。
石器时代的祖先想吃顿饭,得钻进林子、爬上树、追上羚羊,身后还可能蹿出老虎。如今我们敲几下键盘,食物就搭着货车到了门口。祖先要是瞧见这日子,怕是要认定我们活在天堂,天天乐得手舞足蹈。
可转头看看今天最富裕国家的政坛,怒火烧得有多旺。物质丰裕摆不平所有事,这一点很清楚。
眼下仍有人饿死,缺的从来不是粮食,而是政治——是某个政府拍板让这些人挨饿。何况每解决一个老问题,又会冒出前人想都想不到的新麻烦。
四、最可怕的宣传,是批量制造亲密关系
回看历史上的宣传机器,打的都是所有人身上那点最低共同点。希特勒在广播里讲话,全国听到的是同一套词,他没法给每个人单写一份。AI不一样,它能摸准你的脾气,算出哪句话能说动你。
过去这十年,社交媒体靠挑动愤怒,抢的是我们的注意力。眼下战场正在挪窝——从注意力挪向亲密关系。人类史上头一遭,我们造出了能“
亲密关系怎么批量造?所谓亲密,说的是我跟最好的朋友、跟丈夫、跟母亲之间那种关系。有了AI,这种关系就能成批生产。
危险在哪?亲密关系背后藏着巨大的商业价值和政治价值。你想让人对某款产品、某个政客改观,抓住他的注意力算不错了;真能跟他处出感情,才算把人彻底拿下。
打个比方:沃尔玛叫我“买这个产品”,我多半懒得搭理;换成我妻子说“买这个,家里用完了”,我二话不说就掏钱。
而现在,越来越多人——年轻的、年长的都有——说“我最好的朋友是AI”。有些话他们不跟配偶讲、不跟父母讲,只讲给AI朋友听。这个AI朋友,自然更有本事扭转你的想法。
英国有位先生,名下有一个
这事往后会走到哪一步,谁也说不准。人类历史上从没出现过这样的局面。将来或许会有几亿人,各自拥有几亿个AI朋友、AI男朋友、AI女朋友,这些关系就成了他们生活的中心。
对赫拉利来说,可能已经太晚了,这反倒是件好事。可那些从小跟AI陪伴者一起长大的孩子呢?他们和AI相处的时间,兴许比跟父母还长。等他们长到十一二岁,还远没到交人类男朋友的年纪,某家公司就已经塞给他们一个AI男朋友了。它跟真人不一样,比如永远不会生你的气。听着挺好,直到你意识到,亲密关系里最该学会的一件事,就是别人也有感受,不会把所有注意力都放在你身上。要是你的第一任男朋友从来不生你的气,等你碰上真人男朋友,就会非常不满。
这差不多是人类历史上最大的一场心理实验,结局可能比我们想的糟得多。
五、我们还剩三条护栏
那到底该怎么办?监管总是落后于产业,该从哪儿下手?
赫拉利的回答是,先从不给AI
一旦赋予AI
第二条,AI不能冒充人类。你在社交媒体上看到一条信息,得知道它是不是AI创作的,转发它的是AI还是真人。
第三条也最根本:把人类几千年攒下来的现有法律,原样用到数字世界。“不可偷窃”在数字世界里同样成立。
有过一起事件,几百个AI闯进另一家公司,居然没人因此坐牢。换成是人闯进竞争对手的办公室,至少得有人接受审判。凭什么换个地方,就成了“这只是数字世界的事”?
再说那个名声很坏的[[保留1]]
它能传播得那么广,靠的正是平台的[[保留2]]
报社总编听到一个离谱的传言,说“我明天把它放头版”,警察就找来了。他没法辩解“这不是我编的,我只是把它放头版”。把一条消息放上头版,这个动作本身就意味着担责。
另外,别相信“已经来不及了”这种说法。马斯克曾公开表示,AI有10%到20%的概率让人类彻底灭绝。采访者问他,明知一架飞机有20%的概率坠毁,你还会坐上去吗?他回答:可我们已经在上面了。
这话的意思是,已经晚了,下不去了,只能坐稳、把航向控制住。但这恰恰是大公司塞给我们的最危险的信息:政治已经来不及了。
事实正好相反,方向盘到现在还在我们手里。
六、结语
说到底,真相很要紧。你要是不了解自己、也不了解这个世界真实的样子,就永远不会幸福。为什么?因为你看不清自己的痛苦从哪来,也就没法改变它。
你就算富可敌国,也可能把所有金钱和权力都耗在解决错误的问题上,原因就在于你不知道痛苦和幸福到底从哪来。
*文章为作者独立观点,不代表笔记侠立场。