Joshua Gans：AI擅长在现有知识里深挖，人类该往更远处拓

以下是 Joshua Gans 演讲的上半部分中译全文：

01

新知识的价值

说回这篇论文。刚才提到，它的核心问题是：AI的应用会怎样改变我们的知识生产？我主要想讨论的，不是数据提供方有什么激励，也不是知识的社会属性和公共属性。我想回到对科学研究的传统理解：产生新知识，再把它并入现有知识体系，最终让决策变得更好。

要谈这个问题，得先有一个模型，说明知识如何服务于决策。巧的是，Carnehl & Schneider去年在《计量经济学》（Econometrica）上发了一篇《探寻知识》（A Quest for Knowledge），恰好提供了这样一个模型。我愿意承认，我这项研究是“站在巨人的肩膀上”。那篇论文其实相当复杂，即便有AI帮忙，我也花了不少时间才完全吃透。不过我很喜欢它，并把它作为基础

先说说Carnehl & Schneider的知识模型。他们把所有潜在问题都映射到一条实数轴上，每个问题都有唯一答案，只是事先不知道。这些答案的分布服从随机变量的布朗运动（Brownian motion）规律，也就是我们说的“真相”（truth）。现有知识可以看成一系列已经解答的“问题-答案”组合，在实数轴上可以给它们编号。决策者手上是一堆答案未知的问题，他要做的，就是猜出正确答案是什么。

假定我们手上已有一个知识点，它的作用有好几层。最直接的一层，是给某个具体问题一个精确答案。在Carnehl & Schneider的图里，只有一个已知知识点时，答案在这个点上是确定的，所以该点上没有不确定性。另一层作用来自布朗运动的性质：离已知点近的问题，答案也会和它接近，可以借这个已知点去推测（conjecture）。距离越拉远，推测的置信区间（confidence intervals）就会变，图上的虚线画的就是这个。

接着在左侧添一个新知识点，情况就不一样了。新知识点那里当然又多了一个精确答案。但它同时还改善了左侧区域、以及新旧两点之间区域的推测。按布朗运动规律，某个具体问题的答案分布是正态分布，已有知识决定它的均值和方差。一个问题如果落在两个相邻已知点之间，只要知道两点之间的距离、以及它到知识边界的距离，方差就能用公式算出来。新知识的价值，就在于把对未知区域的推测变好。

02

决策者面临的取舍

那决策者该怎么用这套东西？每碰到一个具体问题、一处知识点，他都得选：照现有的推测动手，还是先按兵不动。什么都不做，收益是零。行动选对了、和正确答案对上，收益最大。推测和实际行动一旦偏离，就按偏离多少往下扣收益。

这样一来，决策者的期望收益可以写成：最大收益减去该知识点的方差与潜在损益（stakes）之比。答案要是事先就确切知道，最优解自然是照着答案行动。不知道确切答案时，最优解是让行动等于推测的均值——正态分布下，把行动押在均值上，期望损失最小。

到这里，判断知识值不值就有了清楚的标准：只有推测的误差范围（方差）小于决策的潜在损益，才值得动手。换句话说，潜在损益得够高，高到值得出手。方差则看已知知识点怎么分布——离已知点越远，能借用的信息越少，方差就越大。方差一旦超过潜在损益，行动就不划算。

衡量新知识的价值，得把它可能影响的所有潜在问题和决策都算进来，也就是看它能把整体决策质量抬多高。这便是该模型里的积分函数，代表基于当前知识做决策能拿到的总期望收益。一项新发现值多少，就看它能把这个总和往上提多少。

03

拓展知识与深化知识

不妨设想一下科学发现带来的影响。只有单一知识点时，问题越偏离该点，决策的期望收益呈三角形：在已知点上收益为1，往远处走收益递减，降到0之后就不如不动。补上一个新知识点后，两个收益三角形各有一条斜边被截断，两者之间形成一条先降后升的收益曲线。可见有两个知识点时，它们中间那块区域被优化了：两块知识并用，推测更准，决策也更好，强过只靠一个知识点。但这段曲线里最没把握的还是两者的中点，它离两端都远，方差最大，收益最低。反过来，要能正好在这里找到答案，它对决策的贡献也最大。

所以研究者挑下一个课题时，得定新知识点和现有最近知识点之间的距离。这里有个权衡：新知识点离现有知识点太远，两者之间那部分收益可能就丢了；靠得太近，又有别的代价。只有新旧知识点跨在一个刚好的距离上——最佳距离约为潜在损益的3倍——研究者才能把它们之间的决策全部激活。

Carnehl & Schneider 还做了一个很有意思的区分。假如现有知识的边界由最外侧的两个知识点代表，研究者从这两点连线往外找答案，叫知识拓展（knowledge expansion）；在边界之内补新知识点，叫知识深化（knowledge deepening）。两个已知点相距很远时，拓展和深化的差别其实不大。但多数情况下，这是两条完全不同的路。

研究者挑什么课题，不光看能不能发现新知、改进决策，还得算研究成本和成功概率这几笔账。Carnehl & Schneider 专门讨论过：什么条件下研究者会去拓展知识，什么情况下又会转去深化知识。他们给出的答案是，已知知识点之间存在一个阈值——只有当所有已知点都排得很密、彼此距离都短于某个长度时，研究者才会选择拓展；反过来，要是两个已知点离得足够远，研究者更愿意在中间地带做深化，因为这样做能马上拿到决策上的好处。研究的推进，就这样在两种做法之间来回切换。

04

AI 擅长的是深化，不是拓展

上面说的这些，都出自 Carnehl & Schneider 的理论模型。接下来讲我自己的论文。

先看 AI 的长处。它是一门预测技术，在已有知识里做内插（interpolate）和提取（extract）很拿手。比如让它写一首 Taylor Swift 风格的、关于电动汽车的歌——它知道 Taylor Swift，也知道电动汽车，把两者捏到一起并不费劲。同理，只要你能说清楚要结合哪些现有知识，AI 就能把它们综合得不错，还能分析出彼此之间的差异。可一旦要跳出已有知识的边界去提全新问题，AI 就不行了。至少到现在为止，我们还没见过 AI 能稳定地产出被公认为知识拓展的成果。

照这么看，研究者会用 AI 吗？用了之后研究又会变成什么样？那些原本要由人类研究者权衡的知识点选择，AI 会怎么处理？我这里做一个极简的核心假设：只要现有的两个知识点落在 AI 的能力范围之内，AI 就能在两者之间的区域做出完美决策，收益拉到最高。可要是 AI 的能力范围太窄、连不上这两个知识点，假设就不成立，AI 也就派不上用场。换句话说，AI 的能力得大到足以跨过两个知识点才行。

这意味着，如果只是要在已有知识边界内做深化、做填补，AI 能把研究者过去在知识点距离上面对的那种边际内权衡（infra-marginal tradeoff）抹掉。以前研究者选一个离现有知识点较远的课题，会陷入两难：虽然能激活更多新领域，既然有了 AI，为什么还要在现有知识边界内做退而求其次的研究呢？所以，研究者去深化或者填补（AI 能力范围内的）现有知识空白，动力就更足了。

04

研究者与 AI 之间的互补

把AI的能力边界和研究者选定的课题跨度放在一起看，会发现一个现象：没有AI帮忙时，研究者挑的往往是一个偏保守的最优跨度。AI刚变强的那段时间，可能还不足以让研究者改变手上的策略。可只要AI能力越过某道门槛，研究者就会觉得，调整自己的研究跨度去配合AI是划算的。匹配的过程里，研究的新颖度会先出现一段短期回落——研究者或许会选一个比原来更低的新颖度，图的就是刚好“够上”AI当前能力的下限。等AI能力再往上走，研究新颖度也会跟着爬升。

于是这里就形成了一种强互补：AI的能力范围一旦扩大，研究的跨度就能跟着拉大。AI每提升一次，研究者都会被推着去做更新颖的研究。更关键的一点是，新颖度无论升还是降，AI对研究的作用都是正向的。就算初期把研究新颖度拉低了，这个结果也说得通——在那种情况下，研究者其实用不着那么多盲目的创新，把现有的AI用足才是更要紧的事。

上述就是这篇论文的核心结论。顺着它还能往下想一些推论，比如研究周期的问题：从一个知识点出发，AI会怎样改变知识演进的路径？Carnehl & Schneider的看法是，可能需要人为干预来“启动”某些研究，比如搞一项“登月计划”，去探索远远超出当下知识边界的领域，借此激励研究者不断往下深挖知识，让知识体系变得密集；密度到了一定的程度，研究又会重新向外铺开。

AI还能用来搭建一种新的研究周期。做法是把知识跨度定在现有AI能力的3倍处。研究者首先要做的，是到与现有知识点相隔这个距离的另一端，造出一个新的知识点。第二步，是在这两个知识点之间、以及其中各个节点之间，借助AI做知识深化，这样回报是双份的——AI用于深化知识时，左右两个方向都能产生效应。等AI辅助的知识深化阶段走完，研究者又得再往外拓展一回。研究者与AI之间的强互补效应，说的就是这个。

完整视频回放请访问我们的 YouTube 官方频道👉🏻

https://youtu.be/xiGW-DQexro