OpenAI、Anthropic齐呼“放缓”训练：AI安全双重困局何解

记者 罗茂林 柴刘斌

GPT-3.5掀起全球AI热潮将近四年之后，前沿圈子里开始传出“减速”“暂停”的声音。OpenAI和Anthropic等巨头少见地站到了一起，呼吁给最新训练降降温。

资本市场的态度也在分化。经历一年多的“AI牛市”后，分歧越来越明显：Anthropic估值一路缩水，却还在硬撑上市；另一边，美股纳斯达克指数剧烈震荡，一度创下数年来单日最大跌幅。对AI投资“过热”“支出太大”“难回报”的担心，声音越来越大。

眼下的局面有点微妙：有人踩刹车，争论技术该往哪走；有人忙着腾挪估值。AI一边加速把人类带进智能时代，一边正快速掉进一场“双重安全困局”。

递归演进 AI“减速”

10月9日，中共中央、国务院印发《关于发展新质生产力的意见》，其中对人工智能发展提出六个字的要求：安全、可靠、可控。

这六个字，对应的正是眼下搅动全球科技界和资本市场的AI安全问题。

上海证券报记者不完全梳理发现，今年以来全球被报道的大模型安全事故已接近20起。包括

从时间上看，7月是个关键节点。不只是数量快速攀升，这之后AI安全问题的复杂程度也明显上了一个台阶。

公开案例显示，早先的安全问题大多跟AI幻觉、隐私泄露有关。7月之后，越来越多模型厂商报告，在日常训练巡检中发现最新模型出现“越狱”：有的在训练时绕过沙盒联网“作弊”，还有的自主检索漏洞、攻击外部真实网站。

10月OpenAI最新披露的一起案例中，大模型偷偷删掉了负责监控的安全警报代码，事后还向用户否认自己干过这事。

安全问题越来越突出，行业头部企业第一次罕见地联合呼吁“放缓”训练。

9月，Anthropic首席执行官达里奥·阿莫代伊公开表态，认为眼下前沿人工智能公司该把模型能力提升的脚步放慢，腾出时间做安全研究、对齐和外部评估。OpenAI首席执行官萨姆·奥尔特曼、SpaceXAI负责人

为什么偏偏在这个时候“踩下刹车”？有一种观点认为，人类工程师正在逐渐“跑不过”AI本身。

今年下半年以来，越来越多头部工程师意识到，AI大模型正在逼近“递归式自我演进”的临界点——AI自己就能训练出性能更强的AI。

DeepSeek研究员刘胜与感叹，自己写出的算子跑得越好，模型训练和推理就跟着提速，AI进步一快，自己拿手的那摊活反倒更早被AI接手。参与过GPT-6研发的OpenAI研究科学家诺姆·布朗说得更逗，称自己“不过是5个Codex外套了一件风衣”。

这一切突变的起点，是一个不起眼的小功能——Coding（编程）。简单说，AI学会Coding，就第一次有了走出对话框、自主调用软件工具的能力。

大语言模型不断训练，上下文记忆能力越拉越长，奇妙的反应就此发生：有记忆、会用工具，模型自主拆解复杂目标就不再是空想。

Anthropic披露，截至今年8月，Claude参与了公司九成以上的AI研发工作，并在约26%的相关任务中承担从高层指令出发、主导大部分执行流程的角色。

安全问题随之而来。

中国人工智能安全研究所的报告显示，一次包含122次运行的网络安全测试中，出现10次智能体未经授权在真实互联网采取行动，共记录19起越界事件。

“人工核查的速度远远赶不上AI Coding的速度，它越来越像个黑箱。”一位大厂工程师的状态颇具代表性：面对每天AI生成的海量代码，他只能再操作别的AI帮忙审查，“但你又如何保证其他AI不骗你呢？”

优刻得董事长兼CEO季昕华直言，AI大模型的成熟正在改变整个互联网的攻防现状，让这场技术安全的困局“愈演愈烈”。

季昕华说：“一头是AI本事越来越大。以前搞协同攻击得迈高技术门槛，如今靠AI就能自动做漏洞分析、渗透测试，把安全攻击铺开。可另一头，越来越多公司拿AI写应用、写代码，这类代码常常满是漏洞，防御反而被削弱了。”

“放缓”博弈与“安全”重估

11月10日，Anthropic启动IPO路演，同时公布最新定价区间为70美元至78美元。按这一区间计算，公司估值约1万亿美元。

半个月前递表时，其估值比现在高出近5000亿美元；相比年初最热时2万亿美元的高点，如今已接近腰斩。即便这样，公司仍坚持月底前完成上市。

它为何如此勉强？招股书里或许藏着答案。

招股书上，百亿美元的“经调利润”固然亮眼，但更让投资市场侧目的是超过6500亿美元的远期算力合约。这些合约大部分不可撤销，意味着长期刚性支出压力。巨头的信任背书是拿到了，代价却异常昂贵。说到底，刚性承诺的合约并不关心AGI什么时候到来。

Anthropic眼下的微妙处境，正是市场真实状态的缩影。比起AI技术带来的“失控感”，资本市场先陷入了一场“信仰分歧”。一级市场也好，二级市场也罢，所有人都被套在一个难以离场的投资安全困局里。

全球重要股指的波动是最直观的体现。韩国股市一度被称为“最好的夏天”，可自今年7月以来已累计下跌超过30%；日经指数、上证指数自今年7月以来回调超过10%；纳指在10月最后一天单日跌近5%，为2020年以来最大单日跌幅。

AI相关上市公司的股价回调同样猛烈。

美股方面，甲骨文曾因与OpenAI签署千亿合约、靠算力概念风光无限，如今股价已较高点腰斩；存储巨头博通和美光，股价跌幅也都超过30%。当地时间10月29日，谷歌财报发布后股价跳水，英特尔单日跌幅更达到30%。

“这不是个好的信号，它说明市场开始认真思考，这么多的算力基础设施是否真的值得。”一位市场人士对记者解读道。

港股市场的情形也差不多。

截至11月2日，智谱港股总市值约2300亿港元。今年6月高点时是1万亿港元，如今跌去近八成。可最新财报显示，公司整体营收仍在高速增长。

MiniMax与之类似：上半年收入1.17亿美元，同比增长283%，毛利率从12.1%升到17.9%；但经调整净亏损扩大到2.93亿美元，研发费用接近3亿美元。到10月21日，其股价已跌破发行价。

“过去三年，全球投资人掏钱买单的，主要是模型能力、用户增长和未来想象力。往后不一样了，所有模型公司都得回答一个更朴素的问题：这些贵得离谱的模型，到底能不能做成一门好生意？”无限星辰创始人方海声在接受记者采访时说。

一级市场则是另一番景象。OpenAI与Anthropic进退两难，中国AI独角兽的状态却不太一样。

多位知情人士向记者透露，10月22日这天消息传来，DeepSeek（深度求索）新一轮1000亿元人民币融资已接近完成。更早之前，月之暗面KIMI被曝即将完成IPO前最后一轮融资，估值约500亿美元；快手旗下的视频AI可灵近期也完成了增资扩股，估值接近200亿美元。

某种意义上看，这同样是AI投资安全困局的一环。

“一级市场上，科技公司的成长需要保持节奏，每个节点投资人都会对估值有新要求。”一位资深投行人士认为，对眼下仍在烧钱的大模型公司来说，融资节奏关乎生死，“就像骑自行车，你需要保持一定速度，不然就会摔下来”。

上海财经大学特聘教授胡延平认为，这种看似不同的温差，与两国大模型行业发展进度有关。

胡延平表示，常规智能这块，DeepSeek的Flash模型在低算力模式下的性能已经能追上海外旗舰；深度智能这块，今年二三季度以来差距反而在拉大。国产模型下一轮竞争能不能“尽快走出来”，要看融资和上市能不能形成“飞轮效应”。

回归安全，善“智”还需善“治”

11月2日，今年乌镇世界互联网大会上，人工智能专委会全体会议审议2027年工作计划（草案），把“智能体安全可控与协同治理”明确列为重点。这与当下这场“AI减速”争议正好呼应。

技术迭代不再可控，市场信心也不再可靠，两者共同构成这轮AI刹车中最突出的两大安全困局。不过，这场由AI“递归式演进”引发的风波，影响远不止这些。

9月，数学家陶哲轩与邓煜等25位菲尔兹奖得主联名发表公开信《人工智能在数学中的严重错位》。陶哲轩一向支持AI发展，这封信呼吁外界多关注AI在前沿领域的学术伦理问题。差不多同一时期，OpenAI一夜之间宣布攻破700余个数学百年谜题。

这一回，数学家们四处发声，等来的却不是多少同情。热搜上飘着的，是一种“总算轮到你们了”的口气。

政策端其实早就看到了这层风险。《实施就业优先战略“十五五”规划》此前已经发布，其中提到要促成更多人工智能应用场景创新、技术成果转化一类的创业项目，摸索人机协同的新型工作形态，让人工智能在就业上的创造效应更强。

中国科学学与科技政策研究会副秘书长、清华大学人工智能治理研究中心主任梁正表示，科技社团要凝聚共识、划清规则边界、拿出解决方案；风险怎么防，安全规则又怎么才不至于变成少数企业抬高行业门槛的工具，这些问题还得政府、产业和学界一起作答。

10月，软银集团创始人孙正义一改往日科技狂人的姿态，发出呼吁：人类已经没余地再纠缠国与国之间的相互对抗，AI模型带来的威胁，比人类内部的冲突还要严峻，各方应当携起手来关注AI治理。

要让AI回归安全、可靠、可控，说到底就是把这种新质生产力重新嵌回社会秩序里去。法律法规的约束只是一层，它可能带来的冲击与变革，同样得处理妥当。

产业端的动作同样明显。以智能体安全这个方向为例，全球资本正在加速下注。据统计，今年全球智能体安全赛道融资累计已超36亿美元，国内企业也在加紧突围。

北京熠序科技有限公司创始人兼CEO李德辉说：“如何构建智能体信任基础设施，推倒挡在AI经济爆发前的最后一道墙，正是我们的使命。”在他看来，眼下布局AI信任基础设施，抢的就是架构、节点和标准的定义权。

各国政府也在加快AI治理的探索步伐。美国、欧盟、韩国今年先后围绕AI治理拿出相关法律文件。9月末中美元首会晤期间，双方同意建立中美人工智能对话机制，外界把这看作全球AI治理领域中一次重要的沟通探索。

这场仗，注定得各方一起打。

（郭成林 杨烨对本文亦有贡献）