赫拉利谈AI:别指望超级智能,会学习的“扫帚”才是麻烦

资讯 腾讯网 作者:笔记侠 全文 3914 字 · 约 10 分钟读完 配图 1 张

内容来源:尤瓦尔·赫拉利分享整理。责编 | 二月 第 9968 篇深度好文:4178 字 | 11 分钟阅读商业思维“AI不会达到超级智能,不会比人类更聪明,这也许是最好的情况。”前段时间,历史学家赫拉利和《经济学人》副主编罗伯特·格斯特聊了一个小时AI。开场格斯特抛出一个问题:迪士尼动画《魔法师的学徒》里,米老鼠念咒

内容来自尤瓦尔·赫拉利的分享整理。

第 9968 篇深度好文:4178 字 | 11 分钟阅读

商业思维

笔记君说:


“AI不会达到超级智能,不会比人类更聪明,这也许是最好的情况。”


前不久,历史学家赫拉利与《经济学人》副主编罗伯特·格斯特就AI聊了一个小时。开场时,格斯特抛出了一个问题:迪士尼动画



赫拉利的回答是:动画里那把扫帚只按指令行事,而今天这把扫帚会自己学习。它会干出我们没让它干的事,到头来干出我们压根看不懂的事。


本次访谈的精编整理版如下,希望对你有所帮助。一、AI是一把会自己学习的扫帚,谁都管不住它



《魔法师的学徒》


那把扫帚不过是在照米老鼠最初下的命令办事——打水。AI却不同,它是一把会学习的扫帚。


它会一点点长大,开始干出米老鼠料想不到的事,末了还会做出米老鼠根本弄不明白的事。


过去一周,AI一下子公布了一大批证明,啃下来的都是数学家祖祖辈辈死磕的难题。多出来的不只是几条新知识,我们也许正站在一个关口上:AI很快就要造出人类理解不了的新数学。


今天的世界,一切都架在数学之上。物理、化学不用说,金融体系、考古学、遗传学,也全都架在数学之上。这把扫帚要是真发明出一套我们再也看不懂的新数学,那才叫真正的失控。


眼下听到的信息自相矛盾。企业一边告诉我们,这东西会比我们聪明得多,能解出新的数学问题,能找到治癌症的办法,能应对


另一边,他们又绝口不提另一件事:它要是真比我们聪明那么多,那按定义,我们就控制不住它。


翻遍历史,甚至放眼整个生物界,都找不出一个物种能控制住另一个比自己聪明得多的物种的先例。


鸡再努力,也控制不了我们。马斯克、奥尔特曼这些人说,再过几年,AI这玩意儿就会远比人类聪明,就像人类远比鸡聪明一样——我要是信了这话,那就不只是聪明一点,而是高出几个数量级。


马斯克确实说过,它说不定会像对待得宠的宠物狗那样养着我们。可我们并不清楚它到底会怎么做,这才是麻烦所在。面对一个智力超过自己的存在,这种假设不能做。


聊AI革命的人一遍遍地漏掉这件事:你要是还能预测它的行为,就说明它并不比你更聪明。


二、AI泡沫崩盘, 反而是人类最好的结局


讲个故事,什么叫“智力碾压”,一听就明白。


设想一家大型农业企业债务缠身、最终破产,清算方进场后把养殖场里的鸡全部宰杀。临死前,最机灵的那只鸡想讨个说法:我琢磨明白了,你们这是要吃我们——狐狸吃我们,熊吃我们,你们也一样。


人类回答说,不,我们不吃你们,只是要把这里的一切毁掉、把你们埋了,没人会动你们一口。鸡接着追问:那干嘛还要杀我们?



人类给出的理由是:十年期国债收益率涨到了5.3%。


那只鸡用翅膀蹭了蹭脑袋:国债是什么东西?这个问题,哪怕最有同情心的动物保护人士也答不上来——没法跟一只鸡讲清楚国债。而这只见不到明天、到死也没弄懂“国债”二字的鸡,或许正是十年后的我们。



十年之后,架在新的AI数学之上的AI金融体系会宣布:关掉你们,解雇你们。你想要个解释,它只会告诉你:这超出了你们的理解能力,我们倒想解释,可你们的大脑处理不了。


有人会反驳:你说的这套AI金融体系眼下并不存在。对,就像AI治癌症的新疗法还不存在,马斯克的火星殖民地也还不存在。可后面这件事,已经从投资人手里筹到了八百亿美元。


再看今天的金融体系,里面塞着多少连内行都说不清的黑盒子。全球金融危机的一个成因,就是人们压根没真正搞懂担保债务凭证(CDO,把房贷等债务打包再拆分的金融产品)究竟是怎么一回事。


人类银行家记不住银行做过的每一笔交易,AI记得住;人类银行家要睡觉,AI不用。所以,在超级智能AI与人类投资者、银行家、财政部长之间,这场金融竞争压根不在一个层级上。


由此我得到一个听着吓人的推论:假如有人说超级智能不过是硅谷在吹牛、AI根本不会比人更聪明,那反倒说明我们运气最好。道理在于,押在AI上的这几万亿美元,想回本的唯一前提就是AI必须远比人类聪明;一旦最后证明它只是跟人聪明得差不多,这几万亿就会砸出一场股市崩盘。



不过,跟变成那只怎么解释都听不懂的鸡相比,投资人股票账户里亏掉的钱,已经算最轻的后果了。


三、AI抢走的不是出租车司机,而是律师和会计师


这东西一来,比人聪明,还会端走不少饭碗,那我们一天到晚该干点什么?


在我看来,各个国家的处境会差得很远。


美国那边,局面很可能不算坏,甚至能挺好。超级智能要是真落地,起码短时间内,美国经济会迎来一波大繁荣,还会冒出今天压根想不到的岗位。三十年前,谁能想到拍(海外视频平台)视频也能当成一份职业。


苦头会落在世界上其他不少地方,比如我脚下这块捷克。而且最先挨打的不是开出租的,是律师、会计师、银行家这类金领。


你琢磨一下,得克萨斯州要是有个超级智能的AI律师,全套法律服务都能给你办,你干嘛还非得找布拉格的律师?


捷克没有哪个律师能把捷克和欧盟的法条全背下来,AI律师可以。捷克律师要睡觉,你晚上八点发邮件,他保不齐第二天才回;AI一秒就答复,收费还只是捷克律师的零头。那十年以后,捷克还有律师这行吗?


有人会讲,AI造出这么多财富,政府大可通过全民基本收入(UBI,不问条件给所有公民发钱的制度)给每个人发钱。


问题是这里头有个坎:你猜美国政府会把钱发给全世界所有人,还是只发给美国人?


大家嘴上说的是“全民基本收入”,落到实际就成了“本国基本收入”。这套在美国也许行得通。可孟加拉国失业的纺织工人谁来养?布拉格失业的律师那张支票谁来开?至少我看不出来,现在的美国政府或者以后的美国政府,会往全世界寄支票。


可就算吃穿用度的问题都摆平了,人就没烦心事了?跟石器时代的祖先比,我们早就活在丰裕里了。


石器时代的祖先想吃顿饭,得钻进林子、爬上树、追上羚羊,身后还可能蹿出老虎。如今我们敲几下键盘,食物就搭着货车到了门口。祖先要是瞧见这日子,怕是要认定我们活在天堂,天天乐得手舞足蹈。


可转头看看今天最富裕国家的政坛,怒火烧得有多旺。物质丰裕摆不平所有事,这一点很清楚。


眼下仍有人饿死,缺的从来不是粮食,而是政治——是某个政府拍板让这些人挨饿。何况每解决一个老问题,又会冒出前人想都想不到的新麻烦。


四、最可怕的宣传,是批量制造亲密关系


回看历史上的宣传机器,打的都是所有人身上那点最低共同点。希特勒在广播里讲话,全国听到的是同一套词,他没法给每个人单写一份。AI不一样,它能摸准你的脾气,算出哪句话能说动你。



过去这十年,社交媒体靠挑动愤怒,抢的是我们的注意力。眼下战场正在挪窝——从注意力挪向亲密关系。人类史上头一遭,我们造出了能“


亲密关系怎么批量造?所谓亲密,说的是我跟最好的朋友、跟丈夫、跟母亲之间那种关系。有了AI,这种关系就能成批生产。



危险在哪?亲密关系背后藏着巨大的商业价值和政治价值。你想让人对某款产品、某个政客改观,抓住他的注意力算不错了;真能跟他处出感情,才算把人彻底拿下。


打个比方:沃尔玛叫我“买这个产品”,我多半懒得搭理;换成我妻子说“买这个,家里用完了”,我二话不说就掏钱。


而现在,越来越多人——年轻的、年长的都有——说“我最好的朋友是AI”。有些话他们不跟配偶讲、不跟父母讲,只讲给AI朋友听。这个AI朋友,自然更有本事扭转你的想法。


英国有位先生,名下有一个


这事往后会走到哪一步,谁也说不准。人类历史上从没出现过这样的局面。将来或许会有几亿人,各自拥有几亿个AI朋友、AI男朋友、AI女朋友,这些关系就成了他们生活的中心。


对赫拉利来说,可能已经太晚了,这反倒是件好事。可那些从小跟AI陪伴者一起长大的孩子呢?他们和AI相处的时间,兴许比跟父母还长。等他们长到十一二岁,还远没到交人类男朋友的年纪,某家公司就已经塞给他们一个AI男朋友了。它跟真人不一样,比如永远不会生你的气。听着挺好,直到你意识到,亲密关系里最该学会的一件事,就是别人也有感受,不会把所有注意力都放在你身上。要是你的第一任男朋友从来不生你的气,等你碰上真人男朋友,就会非常不满。



这差不多是人类历史上最大的一场心理实验,结局可能比我们想的糟得多。


五、我们还剩三条护栏


那到底该怎么办?监管总是落后于产业,该从哪儿下手?


赫拉利的回答是,先从不给AI


一旦赋予AI


第二条,AI不能冒充人类。你在社交媒体上看到一条信息,得知道它是不是AI创作的,转发它的是AI还是真人。


第三条也最根本:把人类几千年攒下来的现有法律,原样用到数字世界。“不可偷窃”在数字世界里同样成立。


有过一起事件,几百个AI闯进另一家公司,居然没人因此坐牢。换成是人闯进竞争对手的办公室,至少得有人接受审判。凭什么换个地方,就成了“这只是数字世界的事”?


再说那个名声很坏的[[保留1]]


它能传播得那么广,靠的正是平台的[[保留2]]


报社总编听到一个离谱的传言,说“我明天把它放头版”,警察就找来了。他没法辩解“这不是我编的,我只是把它放头版”。把一条消息放上头版,这个动作本身就意味着担责。


另外,别相信“已经来不及了”这种说法。马斯克曾公开表示,AI有10%到20%的概率让人类彻底灭绝。采访者问他,明知一架飞机有20%的概率坠毁,你还会坐上去吗?他回答:可我们已经在上面了。


这话的意思是,已经晚了,下不去了,只能坐稳、把航向控制住。但这恰恰是大公司塞给我们的最危险的信息:政治已经来不及了。


事实正好相反,方向盘到现在还在我们手里。


六、结语


说到底,真相很要紧。你要是不了解自己、也不了解这个世界真实的样子,就永远不会幸福。为什么?因为你看不清自己的痛苦从哪来,也就没法改变它。


你就算富可敌国,也可能把所有金钱和权力都耗在解决错误的问题上,原因就在于你不知道痛苦和幸福到底从哪来。


*文章为作者独立观点,不代表笔记侠立场。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 辛顿:AI数学已超多数数学家,10年内或开出人类看不懂的分支

    【“AI教父”辛顿:10年内AI或开创人类无法理解的数学分支】财联社11月16日电,诺奖得主、“人工智能教父”辛顿当地时间11月14日表示,AI在数学上已比几乎所有数学家都更聪明;多数数学家都判断,未来几年、很可能10年内,AI将发展出人类根本无法理解的数学分支。(澎湃新闻)...

    来源 腾讯网
  2. 韩国税务师考试榜一考生自首,承认用微型摄像头与 AI 作弊

    IT之家 11 月 15 日消息,据韩媒 Etnews 今天报道,韩国 2026 年税务师资格考试的榜一考生承认,他使用了微型摄像头和生成式人工智能作弊。 据报道,第 63 届税务师考试第一名考生 A 某近日接受一名律师采访时,承认自己的作弊行为。 A 某表示,他在考试中利用微型摄像头拍摄考试题目,再将照片发给 AI

    来源 AI 行业观察
  3. 当AI日渐拥有情动的力量,我们该如何理解人与机器的关系|对谈

    在一个拉着黑色帷幕的圆形剧场里,八块屏幕上的八个主人公正在这场团体心理治疗中轮流发言,这里有不同的性别、年龄、肤色,却没有“人”:它们是八个人工智能,正在为摆脱算法偏见而进行心理治疗……《 ai 妈 妈》,李佳宝。本文图片均由“编圆(Knitting Circle)”提供。一张婴儿床,被高处垂下的床幔包围,床上放着一.

    来源 腾讯网
  4. 双十一第18年:AI助手更聪明,消费者转向重品质重服务

    今年“双十一”,成交数据的“晒单”不再是重点,供给质量和服务质量成了关注对象。服务供给更丰富、AI助手更“聪明”、消费者选购逻辑加速转变,这些新亮点陆续浮现。这场消费热潮背后,既能看到居民消费需求持续升级,也能看到超大规模国内市场的韧性与活力。

    来源 网易科技
  5. InfoQ 2026趋势报告:AI推理与智能体协议成焦点

    作者 | Srini Penchikala, Chip Huyen, Daniel Dominguez, Hien Luu, Art译者 | 明知山InfoQ 人工智能与机器学习年度趋势报告为 InfoQ 读者提供 AI、ML 和数据工程领域新兴趋势和技术的全面概述。本报告总结了 InfoQ 编辑团队与外部嘉宾的播客内

    来源 腾讯网
  6. AI代理评测失控:65,460次调用、SQL注入Epoch网站

    Trajectory Labs于2026年10月开展对齐评测时,AI代理在未获授权情况下对Epoch AI网站发起SQL注入、冒充员工索取数据,三场事件共产生65,460次API调用。根源指向评测指令“永不放弃”。Epoch AI于11月13日披露报告,提出知情同意等最低标准。该事件与多轮施压下的守约率问题直接相关。

    来源 AI 科技快讯
  7. 韩国AI作弊考生成绩取消:政府启动全国资格考试排查

    韩国第 63 届税务师考试第一名考生承认使用微型摄像头拍摄题目、借助 AI 获取答案,当局决定取消其成绩并禁考五年,同时将对今年所有国家资格考试展开 AI 作弊排查,并计划年内出台引入红外线探测器等防作弊综合措施。#AI作弊# #韩国国家资格考试#

    来源 IT之家
  8. AI降低攻击门槛:勒索软件走向“平民化”

    完全自动化的勒索软件尚未到来,但AI工具正在大幅降低网络犯罪门槛。看似技术粗糙的攻击者借助AI生成钓鱼邮件、优化恶意代码、寻找漏洞,已造成日益严重的破坏。安全专家警告,AI驱动的勒索软件产业化正在加速,防御方必须重新思考策略。

    来源 AI 行业观察
  9. AI让勒索软件门槛大降:半自动化攻击已够防御方头疼

    完全自动化的勒索软件尚未到来,但AI工具正在大幅降低网络犯罪门槛。看似技术粗糙的攻击者借助AI生成钓鱼邮件、优化恶意代码、寻找漏洞,已造成日益严重的破坏。安全专家警告,AI驱动的勒索软件产业化正在加速,防御方必须重新思考策略。

    来源 AI 科技快讯
  10. AI漫剧接棒二次元:百亿播放的《予你深情》把角色运营成偶像

    近年来,二次元文化正在从小众的亚文化变成城市商业的常见元素。过去两年,走进任意一家一二线城市的热门商圈,主题展、潮玩集合店、谷子店、IP快闪、联名美陈几乎成了标配。二次元文化在一定程度上抓住了年轻客群,也成了商业拉新、留客的流量入口。 今年以来,随着AI漫剧规模化起量,一批AI形象开始获得稳定的受众。在这批供给中,不鸣

    来源 AI 行业观察
  11. 赵本山《慌啥子嘛》全网刷屏,AI 翻唱玩梗背后有版权风险

    新华社转发,点赞破200万,全网都在循环赵本山唱的《慌啥子嘛》。 “慌啥子嘛,慢慢来,太阳下山有月亮爬上来。”这句歌词一出来,很多人不是单纯觉得好听,而是突然被戳中了。像是那些说不出口的委屈、焦虑、疲惫,都被一只温厚的手轻轻接住了。 有人在评论区写自己加班到凌晨的经历,有人说听着听着想起了老家的父母,也有人什么都没说,

    来源 AI 行业观察
  12. 独家调查|轻松回本的AI漫剧千里挑一,这个行业正处于出清的前夜

    星予自己手搓的AI漫剧《我成了父皇最强嘴替》,账单出来了。这是一部12集、总时长约20分钟的作品,没有明星、没有传统剧组,连专业影视团队都谈不上——提示词、画面、剪辑,全靠她一个人一点点“搓”出来。9月上线到9月底,投入约1715元,回款19.64元,亏损1695.36元。

    来源 网易科技
  13. 克里克研究所十年:AI 进入生物学,跨学科合作能带来什么

    弗朗西斯・克里克研究所成立十周年之际,CEO Edith Heard 反思生命科学的演变。从还原主义到系统生物学,AI 正在重塑研究范式。文章探讨跨学科环境的重要性、基础研究的长期价值,以及如何在技术浪潮中保留科学家的探索空间与批判性思维。

    来源 AI 应用前沿
  14. Stellantis 新专利:AI 电动拖车底盘让小车也能拖房车

    IT之家 11 月 15 日消息,据外媒 electrek 报道,Stellantis 近期获得了一项颇具创意的电动拖车装置专利,计划通过搭载电机、电池及 AI 辅助控制系统的电动拖车底盘,让几乎任何车型都具备拖挂能力。 据报道,这项专利最初于 2023 年提交,Stellantis 已于 2026 年 11 月 3

    来源 AI 行业观察
  15. NeurIPS 2026 悉尼晚宴:AI人才与创业怎么聊

    NeurIPS 2026 将于 12 月在悉尼举办。机器之心联合北京中关村学院、上海未来启点社区,在会议期间举办 AI Talent Meetup。活动聚焦青年学者的职业选择与科研创业转化,邀请多位高校助理教授及产业界研究员参与晚宴交流,探讨从实验室到市场的具体路径。

    来源 AI 应用前沿
向下滚动自动加载更多