Altman斯坦福开讲：一个人加合理token成本，能干百人团队的活

在斯坦福的一堂系统设计课上，OpenAI CEO Sam Altman 讲了一个正在发生的变化：只要 token 成本花得起，一个人就能干完过去一支百人精英工程团队才能干的事。这种选项以前在创业公司里根本不存在，如今却成了现实。他还聊到“规模”的魔力、ChatGPT 和 Codex 怎么被用户“发现”、AI 正变成像电力一样的新公用事业，以及为什么眼下最不该做的，就是押注 LLM 规模化。

以下是 Sam Altman 谈话实录：

一、一个人加合理 token 成本，可以做百人团队的事

眼下只要肯花合理的 token 成本，一个人就能完成过去一支非常优秀的百人工程团队在创业公司里干的活。这在从前毫无可能，压根不在创业公司的选项集里；现在它成真了。

于是，你能扛起的雄心、你能跑出的速度、你一次能推的事情数量，全都变了样。这不是渐进式的变化，是选项集本身换了。

这个观察为什么成立，我说不清，也没有一个让自己满意的理论解释，所以推荐别人照做时心里会有点打鼓。但经验上它确实站得住：我职业生涯里看到的所有最有趣的事，都和规模带来的涌现属性有关。

一件事在较小规模上已经以有趣的方式奏效，而你能把它推到前所未有的规模，多数情况下这是个好主意，而且大多数人做得远远不够。AI 模型的 scaling laws 如此，把更多聪明人聚在一起研究一个问题如此，公司和经济规模也如此。

这一点我是在 YC 真正学到的。当时所有人都说 YC 太大了，该缩，每批只投 10 家公司才是最好的时候。很多非常聪明的人都这么说。这很诱人，因为工作量会小很多。但 YC 的魔力很大一部分来自批次内部的网络效应，那是一种只在规模上才会出现的涌现属性。在此之前，没人以同样方式大规模投资初创公司，所以也没人发现这一点。

二、规模化的难点：东西会以不可预测的方式坏掉

人们不常做规模化，一个原因是：规模一大，东西坏掉的速度会越来越快，方式也越来越不可预测。你真要把某件事做大，它总是有点小毛病。而且总会有非常聪明的人告诉你：别野心太大，别搞太大，我们试试小一点的。

所以说到底，要把规模做上去，得靠系统层面的设计。就拿我们扩大AI模型规模那件事来讲，当时摆在面前的问题一箩筐：技术上究竟能不能行？跨1万甚至10万张GPU跑训练，之前没人干过，得砸进去大量工程人手；钱从哪儿来？商业模式又是什么？这种风险由谁扛、怎么扛？研究人员那边也会反问：算力既然这么多，干嘛非把一个项目全押上？拆给几个项目分散着做不行吗？

把这些难点逐条拆开，一次解决一个，非常重要。几乎所有规模化领域，这都是通用方法。

三、人类最难重构：清晰目标、清晰计划、清晰决策方式

规模化时，最难重构的往往不是技术，而是人的部分。你对大规模组织人类参与系统有什么经验？

我的答案是：清晰的目标、清晰的计划、清晰说明如何到达那里，以及在路上如何做决策。这非常重要。

再说回我们决定把深度学习往大了做那个例子。当时不少人讲这条路走不通，会冒出一堆麻烦，得把投资摊开、别把鸡蛋放一个篮子里。可我们一旦把话说清楚——“不，我们就赌规模化深度学习。这就是我们要走的路。要是赌错了，我们就认栽，但这事我们干定了。理由是这样，我们相信真走到那一步，世界会变成什么样。”——这种把话说明白本身，力量就很大。

再说，人类在进化上本来就不擅长去想指数级增长这回事。scaling laws会一直指数级涨下去、收入会指数级涨、组织能扛住指数级往上翻的复杂度，这些人们都很难在脑子里描出来。以我的经验，要让人真正从第一性原理出发，自己推出“这事为什么会发生”，得花很长时间。

四、ChatGPT 不是规划出来的，是用户“发现”的

GPT-3做出来了，可我们得挣钱，因为想把机器扩到十亿、几十亿美元那个量级。GPT-3是个挺酷的demo，问题是围绕它能搭出什么产品，我们没找到。试了几样，全没成。模型会越来越强，这点我们心里有数，可收入引擎也想早点转起来。于是就有了这么个决定：产品想不出来，那就先做成API，指望别人能想出产品来。

2020年夏天，GPT-3 API上线。刚开始几乎没什么traction。差不多过了一个月，就我们所知，它在Twitter上莫名其妙地火了。同一天，几个不同的开发者拿它做出些挺酷的东西发了出去，然后别人也开始上手试。

可你要是回头去用GPT-3或者3.5，会发现放到当时那股兴奋劲儿里比，模型差得让人吃惊。大家什么都试，真正跑通、而且跑出明显规模的业务，只有文案写作。那东西算不上多好，也算不上多让人激动。我们当时的想法是：只能等模型变得更好。

跑通的虽然只有文案写作，可开发者已经学会先丢一个prompt进去，然后跟它聊起来。我们看到很多人没法把API用到业务里，却拿着API key纯粹拿来聊天。这说明什么？人们显然想要一个用起来顺手的聊天机器人。

那时候我们手里有GPT-4，不过中间还压着一个已经准备好的模型，叫3.5。另外我们还摸出一种新的后训练办法，能让模型更听话地按指令走，聊起来也更顺。我们算了一笔账：API也许就是个一千万到两千万美元run rate的生意，可有一样东西人们是真喜欢。按YC那套原则——看用户喜欢什么，然后去做——那就围绕它做个聊天机器人。

发布的时候，我们还是没觉得它能这么成功。它更像是给研究看的demo，本意是说服别人去做聊天类产品、来买API。结果它火得一塌糊涂，病毒式传开了。

在 YC 那段时间我还学到一点：一件事如果已经在快速涨，可它本身做得还不够好，那基本能断定，这东西有爆的潜质。流量冲上去又掉下来，连着五天，头几天大家都说是炒作周期；第二天峰值反而更高，再回落，还是有人说炒作。到了第四五天，我心里已经有数：这产品接下来会怎么走，我们大概能预判，手上握着的可能是个杀手级产品。

第五天，我们把所有人叫到一起，说现在是紧急状态，不过是好的那种紧急状态。公司要建，产品也要建，两件事得同时干。接下来是两个月拼命扩张。商业模式先放一边，收费先收起来，至少别让计算机账单把公司烧穿。这当然不是长久之计，可当时要的就是先让它跑起来。

五、Codex 原本是主计划：编程是模型控制世界的方式

ChatGPT 之前，我们其实打算把力气全压在代码上。模型能写代码，这一点我们清楚，也知道那会是个值钱的领域。不过内部当时有个判断：编程是模型控制计算机的途径，机器人则是模型控制物理世界的途径。只要模型足够聪明，能写代码、能控制机器人、能驱动机器人的执行器，智能就能在现实世界里替你干活。

走到那一步花了不少时间。Codex 今年早些时候已经表现不错，但真正的转折点是 5.5，人们开始拿它做各种不可思议的事。

现在的能力管线大致分几段：预训练、中训练、后训练，再加 RL 和监督反馈循环。我觉得这确实是眼下的管线，不过我也预计它会经历一次大改写。什么时候改、具体怎么改，我说不准，但这样一条“管线”摆在那儿本身就有点怪，感觉不是最优解。

那最优解长什么样？我认为这得交给 AI 自己去研究、去解决。我们定过目标：到今年九月，用上相当于 50 万张 A100 的算力，充当 AI 研究实习生；到 2028 年 3 月，拿出一个完整的、端到端的、非常有才华的 AI 研究员，能自己发现全新架构。

所以，靠现在的管线和架构，我们或许就能越过那条线：AI 做出令人难以置信的工作。

六、AI 正在变成新的公用事业：卖“智能”很难让人共鸣

我们正在造的东西，我认为是一种新的公用事业。这种事不常见。电力算公用事业，互联网算，水也算，这类东西屈指可数。正因如此，我们手里没多少现成的比喻或经验，来教我们怎么向世界解释它。

最近我翻了下电力变成公用事业那段历史。早期的电力公司并不推销“电”，因为没人知道电是什么，也不知道自己为什么需要它。电听上去还挺吓人：它要进你家，可能把你电死，跟过去的世界完全两样。他们也许试过卖电、给电做营销，但没成。

后来他们改卖别的东西：夜晚的光。你从他们那儿得到的不是电，是夜晚的光。顺便说一句，同样的东西还能干很多别的事。可人们会问：我为什么要那个？他们就答：有一天它还能帮你洗衣服。人们回：不，那太远了，我接受不了。

AI 对应的“夜晚的光”是什么，我不知道。但就算我们判断完全正确，智能会成为每家公司、每个客户、每个政府都得接入的新公用事业，你会有某种 OpenAI token 订阅，插到一切东西上，一直为你运行、做各种惊人的事——至少眼下，我不觉得拿“我们在卖智能”去类比是正确方式，因为人们没有共鸣。

真想成为新的公用事业，我们就得找到一种说法，向世界讲清楚：拥有这样一根智能管道，你可以拿它做任何想做的事，这到底意味着什么。

不管是消费者、企业还是个人，你最终会以更接近 token、甚至比 token 高一个层次的方式去想这件事。硬件在哪儿、具体是什么芯片、什么在供电，你不会太在意，这些都会被抽象掉。你关心的是：我跟系统互动时，能大量用吗？便宜吗？做得好吗？

现在它还是像 token。等我们进入一个人人都有一个持续运行的 agent、一直为自己服务、一直有用的世界，你想到的可能会再高一层。就像付手机账单时，你想的是“买通话时间和流量，访问整个系统”，不会去想基站里装的是什么硬件、怎么连到互联网。底层硬件会被抽象掉。

七、押注 LLM 规模化会失败，是当前最误导的判断

说到 Yann LeCun 那句“LLM 是死路”：先讲一点，就达到人类水平智能而言，这些模型在某些方面已经远远超过人类，在另一些方面又远不如人类。比如在非常长期、需要高判断力的任务上，它们似乎比人差很多。

可另一方面，就在昨天，我们的一个模型发现并证伪了一个 Erdős 问题猜想，那是聪明人研究了很久的问题。不少聪明的科学家，我不知道 LeCun 是不是其中之一，最近甚至还说这不会发生。结果模型就这么做了。现在数学家们在问：数学是不是要结束了？这对我们领域意味着什么？

可见 LLM 确实具备发掘新知识的能力，也确实能胜任某些人类做不到的智能任务。它们还会接着扩大规模。至于在多大范围的任务上能胜过人类，且看后续发展，不过我猜不会少。

另外，前面说的“不信指数增长”这回事，这个领域曾被整整一代研究者耽误了——他们对“扩大规模不会带来什么”太过笃定。剩下一些人则只是盯着图表说“看着还在漂亮地往上走，那就接着走”。

世界模型显然重要，机器人等事情需要它。但在当前节点押注 LLM 规模化会失败，我觉得非常误导。

八、给“一人前沿实验室”的建议：去研究推理，让智能廉价而丰富

如果我在这个班上，做“一人前沿实验室”项目，我会做什么？

先说一句，你们这个项目做得不错。眼下不少非常聪明的人在钻研训练思路，我保证，很快就会出现让人惊叹的模型。可在我看来，"把大量廉价智能大规模交付出去"这件事，投的钱还远远不够。

换作是我，可能会去啃推理栈——怎么让这种厉害的智能变得便宜、管够？这块同样投入不足。说到底，所有前沿实验室走到最后，很大程度上都得变成推理公司。

现在改项目也许晚了点，但晚做也比不做强。想做就去做。

结 语

这场访谈里，Sam Altman 对规模、产品和 AI 的未来给出了几个核心判断：一个人配上适量 token，就足以顶上一百人的团队；规模常常会带来超出共识的涌现特性，可惜多数人并没有卯足劲去推它；ChatGPT 和 Codex 能问世，都是因为先看用户喜欢什么，再照着去做；AI 正演变成一种新型公用事业，可我们还没找到向世界解释它的那束"夜晚的光"；现有的能力管线并非最优解，需要来一次大重写；面对指数增长，别让身份绑架你对真相的判断。

Altman 的原话是："如果你把自己的身份认同绑定在某个特定事情会成功或不会成功上，你太执着于自己的身份，就放不下，看不到真相。"在这个指数级时代，这恐怕是给每个人的一句要紧提醒。