奥特曼追问：AI聪明度上限该由谁定？

AI到底能被允许比人聪明到什么程度？

11月3日发布的Raj Shamani访谈中，OpenAI CEO奥特曼自己把这个疑问摆了出来。

听着像科幻片桥段，可它离普通人并不远。

访谈里，奥特曼抛出的是同一个追问：AI究竟该被允许比人类聪明多少？

评估机构METR有一项指标：按人类专家完成所需工时来算，AI有五成把握独自搞定的软件类任务能有多长。

2025年初，这个数字约为50分钟；METR估计，到2026年4月已在16小时以上。

更值得盯的是增速本身在变。

2019年到2025年初，该指标大约每7个月翻一番；2026年5月的报告则发现，若只看2024年以来发布的前沿模型，翻番周期已缩短到约105天。

人类这一侧，20世纪的智商测试成绩平均每十年涨约3分。研究者詹姆斯·弗林的名字被用来命名这一现象，即「弗林效应」。

不过这条曲线已经露出反转的苗头：

挪威研究者分析了约73万份征兵智商测试，结果显示1975年以后出生的人分数开始走低，降幅相当于每一代人少了约7分。

弗林本人也在英国青少年身上观察到过类似的下滑。

一头是AI能完成的任务长度按上述统计约每105天翻一番；另一头是人类IQ测试分数的历史涨幅通常为每十年约3分，部分国家甚至出现下降。

两把尺子量不出所谓的「智力鸿沟」，但有个问题已经绕不开：

AI接手的工作越多，人看懂它、核查它、管住它的本事也得同步跟上。

这事跟普通人有什么关系？

平时你用AI写代码、查资料、改方案，它只比你聪明半步，那是顺手的「外挂」。

可它一旦比你聪明太多，事情就变味了：你连挑错的能力都不具备。

质疑当然还可以质疑，但你会越来越依赖靠谱的工具和旁人，来帮你验证它。

造AI的人，同样被这类问题缠着。

对奥特曼本人而言，打造超级智能的代价已经落进了日常生活。

访谈中主持人问他：哪一个版本的自己已经「死了」？

奥特曼坦言：刚创办OpenAI时，他还是那个日子轻松、爱好满身的人。如今日程被精确排满，他已经很久没做过一件随性的事。

他的说法是，想造出超级智能（ASI），就不可能不过上疯狂的生活。

奥特曼聊起造超级智能要付的代价：日子被排得严丝合缝，想随性而为已经成了稀罕事。

说到OpenAI正在做的这套技术，奥特曼的语气很重——它会深度搅动整个社会，责任压肩，赌注也高得吓人。

他提醒，往递归自我改进（RSI）走的过程中，有两类风险得一起盯住：

一头是人类对AI失去掌控；另一头是权力太过集中于某一个人、某一家公司或者某一个国家。

前一头说的是人还能不能管得住AI，后一头说的是这股力量最后落在谁手上。

AI越来越会造AI

人还追得上吗

GPT-4训完那阵子，OpenAI把公司命运都押了上去，疯狂囤算力。

那会儿的道理很直白：大力出奇迹。

可眼下说起RSI，奥特曼这番追问背后，多了一个最难提速的变量——人脑消化AI产出的速度。

这个速度一旦掉队，人和AI之间的智力差距只会越拉越开。

RSI说白了，就是让AI去研发下一代的AI。更强的AI造出来，再让它接手更多研发活儿，雪球越滚越大，自己推着自己往前跑。

OpenAI在9月21日的一篇文章里划过一条安全线：

完全自主的RSI如今还没出现，在安全有保障之前也不该硬闯；往不往前走、怎么走，要看人类能不能保住控制权。

9月21日OpenAI强调过，推完全自主的RSI，前提是安全，是人类控制权不丢。

可这条安全线要守住，那个「速度差」得先缩下来：AI抛出的新方案，人类验证得跟得上。

设想一个系统24小时不眠不休，成百上千个算法改进往外抛。人类研究员上一轮改动的影响还没摸清，下一轮实验的倒计时已经响了。

这时候要是只盯着跑分涨了多少就放行，人工审核很可能就成了走个过场。

人还在流程里待着，控制权却未必还攥在手里。

AI出方案的速度一旦快过人类理解和验证的速度，风险就会在这段时差里一点点积起来。

把AI能力想成控制面板上的一颗旋钮：能拧到哪一格，不光看算力多猛，还要看人类能不能看懂、能不能验证、能不能在必要的时候叫停。

奥特曼在直播里追问的治理、监测和对齐，要真落地，三个问题绕不过去：

评估由谁来做？复核由谁来做？改方向的权利又在谁手上？

还是9月21日那篇文章，OpenAI提出，对齐研究以及它的实际应用，得跑到能力增长前头去。

10月，奥特曼做客Matthew Berman的访谈时把话说得更明白了：RSI往前推，速度上得有个「限速」。

按他在那场访谈里的说法，RSI的推进节奏不能由着性子来，得设一道限制。

不过，这些讨论既没说清智力上限该定在哪儿，也没拿出一套完整的限速办法。

往后看AI的进步，光算「能力涨了多少」已经不够；「人还来不来得及插手」，这本安全账也得一起算。

AI盯AI

警报一响，谁来接手

这第二本账，到底怎么算？

10月29日，OpenAI亮出了针对前沿模型的分层监测机制。

这套东西像机场安检，一层比一层严，而且是拿AI盯AI的「套娃」路子：

头一层是「安检门」，轻量探针实时扫模型内部的激活信号，宁可错杀一千，也绝不放过一个；

第二层是「审讯员」，专门派一个模型去翻智能体近期的对话、思维链和工具调用，撒谎、越权、钻评测空子，都归它揪；

第三层是「专案组」，由调查智能体回溯上下文、还原现场，必要时直接丢进隔离沙箱跑代码取证。

一句话和一次越权，本来就不是一回事。

不少危险动作单拎出来看都人畜无害，得放回任务目标和前后行为链条里，才看得出它是不是在「暗度陈仓」。

训练、评测以及内部Codex这类高危核心区，还设了第四层「底线哨兵」。

它不看对话，转去核对底层网络日志和系统记录，最后决定要不要拉响警报、把人类叫醒。

OpenAI内部的监测流程是：分层筛查模型行为，安全与对齐调查分头做，再由人来响应或复核。

麻烦在于，模型能7×24小时连轴转，人类的安全值班却分「工作时间」和「下班时间」。

OpenAI自己也不回避：误报一多，所有任务都做到全天候叫人，不现实。

这个窟窿怎么补？部分关键警报不等人，直接熔断、暂停任务；同时一道30分钟兜底机制也在推进：

警报响起后30分钟内没人排除，相关活动就被强制停机。

谁控制AI

谁又能参与决定

再退一步，就算模型不失控，人类也可能掉进另一个坑：权力过度集中。

奥特曼在访谈里点了两种近乎「卡通式」的坏结局：

其一是失控：人类有意或无意地把未来交给远比自己强大的系统，从此收不回来；

还有一种是集中：某个人或者某家企业，靠AI拿到了压倒其他所有人的力量。

奥特曼甚至说过，假如这种技术只攥在OpenAI一家手里，那也不是什么好事；多家AI机构应当各自探索、彼此竞争。

落到普通用户和开发者身上，他这番话指向的其实是选择权。

打个比方，某家模型厂商太强势，用户能不能换一家？某条规则让自己吃了亏，有没有渠道去说理？AI接手的活儿越多，这份选择权就越要紧。

可巨头之间互相竞争，并不会顺带把安全带来。开放透明才是真正的检验标准：外面的人能不能随时把AI的「引擎盖」掀开看看。

查验的规矩同样得写清楚：能力越过哪条红线，就必须启动人工复核？独立评估方进场之后，能翻到多深的训练底牌？一旦察觉苗头不对，又是谁有权按下暂停键？

这三个问题怎么答，不能只由实验室关起门来自己说了算。

通向ASI

验证的时间也得留出来

聊到访谈快结束，奥特曼提到自己最想造的那样东西：

一台帮人类发现新科学的机器。

近期AI在数学领域取得的突破，让他觉得这个里程碑会比原先估计的更早到来。

他设想AI替人类捅破物理学那层窗户纸，找到全新的疗法和清洁能源。

他说自己最近一次心跳加速，是在宣布Navier-Stokes方程相关成果的前夕。

可偏偏是这个成果，像一把精准的尺子，量出了AI和人类之间最尴尬的时间差。

按OpenAI披露的说法，AI得出这项结果只花了约88个小时；人类顶尖数学家接手核对，到现在已经熬了快两个月，仍然给不出定论。

没有经过验证的突破，在科学上等于零，弄不好还会变成负数：

假如AI一边帮忙改算法、优化实验，一边又把人类还没消化掉的成果直接喂给下一代模型，这个循环的齿轮就会越转越歪。

这跟一种已经被证实的现象很像：模型崩溃。

2024年，牛津、剑桥等机构的研究者在《自然》上发文指出：拿AI生成的内容不加筛选地去训练下一代模型，会给模型留下不可逆的缺陷，原始数据中那些少见的「长尾」会最先消失。

实验里输入的是一段讲中世纪建筑的文字。训练到第9代，模型吐出来的已经是一串长耳野兔的名单。

研究者当时就指出：用AI数据训练下一代并非不可行，但筛选这一步必须当真。

这正是AI科研滑向失控RSI的快车道，也是今天讨论超级人工智能（ASI）时最该盯紧的命门。

以后的AI，可能会接下越来越多探索未知的活儿。

但它不管走多远，人类都得看得到证据，有能力验证结果，也有权决定方向。

参考资料：

https://x.com/ChrisGPT/status/2117699613134368839

https://www.youtube.com/watch?v=TjPPIf-M6KE

https://www.youtube.com/watch?v=3gXLmy7DK_4&t=2015s

https://www.cnbc.com/2026/09/14/sam-altman-ai-slowdown-anthropic-amodei-musk.html