智能知识汪涉洋:只靠RSI到不了AGI,人类数据仍是关键
文|黄小艺(微信H997Hbiu)对话|王兆洋(微信Geisterspiele)、黄小艺“Frontier data, made in China.”这是智能知识挂在官网上的 slogan。它指向的是,中国 AI 下一阶段竞争中必须补上的一块:能够持续供给前沿模型需要的高质量数据。今天在大洋彼岸,整个硅谷都在疯狂讨论如
“Frontier data, made in China.”这是智能知识官网挂着的口号。
它指的,是中国 AI 下一轮竞争里必须补上的一环:能持续供给前沿模型所需的高质量数据。
眼下在大洋彼岸,硅谷上下都在热议怎么蒸馏人类经验。
Anthropic 等模型公司内部忙着搭数据团队,外部也在找供应商合作;Scale AI、Surge AI、Mercor 这类公司就在这种紧密协作中长大,已经跑出数家估值数百亿美元的企业。模型能力的较量,实质上已经变成数据供给能力的较量。
这个机会,智能知识提前一年半甚至更早就看到了。
2025年4月,智能知识成立。此后它拿到五源资本、奇绩创坛的种子轮投资,以及锦秋基金、耀途资本联合投资的天使轮融资。
公司的核心技术成员里,不少人曾在字节内部做模型数据相关的工作,也有人来自Scale AI等公司。
创始团队方面,创始人兼 CEO 汪涉洋此前负责字节 Seed 的模型数据工程;CTO 李宽野在字节的经历,覆盖预训练数据管线,以及推理、工具调用等方向的强化学习数据合成与环境建设;联合创始人兼总裁曾资文,出自字节商业化平台与流量策略团队。
2024年下半年,他们在大厂内部共同察觉到一件事:模型所需知识的生产,正快速越过模型公司的组织边界。
训练重心往后挪,后训练的分量越来越重。模型要吃的人类经验,覆盖面越来越宽,专业门槛也越来越高;任务一变,数据要往哪个方向找也跟着变。这么多种人,一家公司内部很难凑齐,也就没法把模型所需的全部数据自己产出来。
独立数据公司的窗口,就此打开。
不过,作为国内几乎最早投身后训练数据的创业公司,智能知识成立后至少半年里,团队跟投资人聊商业模式时,得到的理解与认同都很少。
“从没人懂,到新人没机会,也就半年时间。”曾资文说道。
2025年上半年,DeepSeek-R1 等模型进一步证明了强化学习对推理能力的提升空间,国内模型团队加快探索后训练与 Agent 能力。到了下半年,这些需求背后的商业机会被更多人看见,一批曾在模型公司内部负责数据与训练的人陆续出来创业,和智能知识团队走的是同一条路。
进入2026年,情况正如我们此前发布的《AI数据凶猛》《此刻AI的未来和热钱,藏在中国的Alexandr Wang里》所写:模厂、创业者、应用、中转站、投资人成批涌入,高订单、高利润、高估值与灰色地带齐飞,这个新市场最热闹的一面由此展开。
面对种种混乱,既是00后又是“行业老兵”的李宽野认为,主线始终只有一条:“数据不需要什么天才般的想法,就是把每个判断做得足够认真和仔细。”
在李宽野的拆解里,强化学习所需的数据由三个要素构成:环境,决定模型能看到什么、操作什么;任务,决定模型需要完成什么;验证器,判断它究竟做得好不好。
模型能力往上走、进入真实生产之后,这三要素的难点也在跟着变。
去年他们跑模型评估,还常被底层基础设施卡住:并发一高,整个环境甚至会直接挂掉。今年这类问题少了很多,支撑模型运行的基础设施逐步成熟,行业把更多精力转向复刻真实的业务环境。
可在他看来,环境仍然属于Easy Part。环境搭好之后,还有两端的问题要回答:训练开始前,哪些任务值得让模型去做?模型完成任务后,又该凭什么判断它做得好不好、给出怎样的反馈?
举个例子,让模型把几张发票录进报销系统,任务明确,核对金额和日期对不对就够了。可如果要求换成“下周去上海见客户,安排一下”,模型就得去翻邮件、聊天和日历,先弄清到底要安排什么,再协调各项事务。
任务越模糊,环境越复杂,验证环节还要判断行程是否合理、预算花得值不值、体验好不好。
业务一旦搬进被冻结、可反复训练的虚拟环境,现实反馈也跟着缺席。一个真正能让模型提升的好任务,是起点;评分标准是结尾。这两端,都更依赖专家的判断。
说到底,Human Data is all you need。
这和不少数商的做法不同。过去一段时间,模型厂更看重数量与时限,质量排在后头,于是有公司拿合成数据顶“专家数据”;也有从业者认定,强模型已胜过人类,其轨迹会比人的操作更优。
智能知识却不这么看。他们认为专家经验只会越来越稀缺,但重要性始终排在第一。
所谓“专家经验不再重要”,某种程度是因为没找到模型真正需要的那类专家,或者没能把人的经验转成训练信号。
行业的注意力走向,也印证了他们的判断。
“市场的重心已经经历了几次转移,最初侧重数据工程管线,看效率,后来开始……”
“这是数据行业在变好的信号。”
我们和李宽野聊了聊他们从模型厂出来的经历,以及这一年多里不断刷新的判断。
听他讲,你能感到技术人员那种认真和严谨。这个头发稍长、爱玩摇滚的年轻人,说观点前常加一句“在我的视野里”,会分清哪些是自己看到的变化、哪些是还没验证的推断,也更愿意站在模型和智能的角度,去推演数据更远期的本质。
比如他说,“RSI 是把现有能力用到极致,但不等于产生新的智能。”
他还提到,日常工作中大量任务并不需要多高的智能水平,难点在于要在多个系统交织的复杂环境里一遍遍捞取信息,还得在没有标准答案时自己拿主意。智能是一块,经验是另一块,两者相对独立。
他这种想问题的方式,和做数据很像:都得在混沌的世界与抽象的人类经验之间,找出一个个经得起推敲的信号。
眼下行业被生意牵着走,风向一变就抢走注意力,这场对话因此显得难得——来自一线从业者的冷静思考,给出了理解当下智能瓶颈的另一种视角。
智能知识在官网自述里也写过,“机器,也许会更快、更强、更记得住。但它的人性,来自我们选择教它什么、忽略什么、赋予它怎样的品味。我们的使命,是培育真正有灵魂的AGI。”
模型能力怎么变,有一点他们始终没松口:
“没有人的参与,就无法达成 AGI。”
以下为对话实录,经编辑整理:
“半年时间,从没人懂,到新人没机会”
硅星人:当初为什么从字节出来做数据创业?那时行业还很早,你在模型公司内部看到了什么?
李宽野:我2022年刚进字节,在商业化广告团队做大数据工程。后来大家开始关注 GPT 和 scaling law,我借着这个契机转到大模型方向。
当时团队从网上收集了海量资料。算法研究人员更关注模型架构,工程上则需要有大数据经验的人去解决另一类问题:怎么让整条数据处理管线规模化,面对超大量级的数据,怎么设计分布式清洗和处理策略。我主要参与的,就是预训练数据处理体系的建设。
做了大半年之后,团队里开始弥漫焦虑:互联网上的数据差不多被用光了,下一步还能干什么?后训练被提起的次数越来越多。而在那之前,聚光灯一直打在预训练团队身上。
2024 年下半年,特别是 o 系列出来以后,强化学习成了讨论中绕不开的一块。我加入了一个 GUI Agent 团队,负责环境和数据建设,也是在那时候开始接触复杂环境和长程 Agent。
走到这一步,强化学习的用法变了:不再只是把输入丢给模型、等它输出答案、再拿标准答案去比;模型得在环境里连续执行任务,我们也要把对应的训练环境和规模化评测系统搭起来。举个例子,让大几千个任务同时在复杂的虚拟环境里roll out,然后再把后续评估做完。
这部分又做了差不多半年。去年 4 月前后,就出来做了现在这家公司。
更早的时候,团队就形成过一个判断:数据这件事,不该被关在一家公司内部做完。
它吃人力,还要按任务灵活组织;涉及的知识和经验铺得很开。想让一家公司封闭地把模型要的数据全生产出来,几乎办不到。这反倒成了外部公司的机会。
生意具体怎么落地,2024年2月 Mercor 给了启发。那会儿它刚受到关注,对外讲的是面试服务,博客里却冒出了 Human Data。这个细节让人印象很深。后来才看明白,面试是它搭专家网络的入口:先筛人,再把人组织起来,给 OpenAI 等公司生产专家数据。
顺着这个思路,团队很快拍了板:出来做一家自己的公司。
硅星人:不少人对数据的印象还停在标注上。可今天模型要的数据越来越复杂,行业里也跑出了高估值公司。从过去到现在,数据的演变和区别在哪?
李宽野:模型一代一代换,要的数据也跟着换。
大模型起来之前,标注多集中在分类、打标这类基础常识工作。给一张图,判断是猫还是狗,就属于这一类。
那会儿这是劳动密集型活儿,用不上多强的专业知识。公司能不能做好,拼的是线下管理:把大批人组织起来、培训到位、完成标注、守住质量。
大模型出现后,数据更吃知识了。预训练阶段就有大量检查工作,看一段文本有没有有害内容、事实性上有没有毛病,受过一定教育的人就能上手。
再往后是偏好数据:模型给出两个或三个回答,人来判断 A 好还是 B 好,这就是 RLHF。跟前面比,它更依赖经过培训、对 AI 有了解的人。Scale AI 就抓住了从传统标注往这类工作转的机会。
现在进入第三个阶段,数据越来越由评测驱动。说到底,是要回答两个问题:什么是智能,怎么判断模型达到了希望它具备的能力。
比如都说某个模型编程能力强,可强在哪,得靠一个干了十年的工程师,把程序员的工作拆成前端、后端、运维,再往下拆,才判断得出具体活儿干得好不好。
一个职业里包含很多种工作,模型在每种工作上的表现,都会影响它在这个领域落地的经济价值,于是越来越依赖有经验的人来判。
知识和经验带来附加值,数据也就慢慢变成高附加值的工作。这是最大的变化。
参与者得深入跟模型交流,发现问题,再把“我觉得它做得好或者不好”这种主观感受,变成一条条能验证、能评价的标准。数据公司和生产数据的专家,都得琢磨这件事。
硅星人:创业之后,你们对数据行业的认识有哪些变化?
李宽野:从去年 4 月到现在,市场的关注点变过好几轮了。
一开始,大家主要关心怎么搭标注产线、怎么控数据质量。那时 RLHF 还是主流方案,生产范式没现在这么复杂。一套好的标注规范,就能让质量维持在比较高、又可控的范围内。
到了去年下半年,注意力从生产系统挪到了专家网络。
过去做对错判断、偏好判断,可以把人集中在线下,在相对稳定的环境里生产。可对专业能力的要求越来越高之后,这套办法就难以为继:专家来自不同地方,可能还有自己的全职工作,集中不到同一个场所。
线上的专家网络因此被更多关注。也是在那段时间,团队开始接到针对专家的定制需求。
到了今年上半年,大家开始相信专家网络有规模效应,认为它可以 Scaling。但很快发现,把一个有知识的人转化成能生产数据的人,本身成本就很高。专家网络里人已经很多,不等于再加一个人的成本就会明显下降。
与此同时,模型进步很快,此前能帮上模型的人,可能慢慢帮不上了;模型进入新领域,又需要另一批人。比如 CAD、机械制图,今年下半年被提起得更多。
所以,专家网络的规模效应没有此前想得那么稳。过去互联网行业那套思路不能完全照搬,不能把 Scaling 当成最优先的事。
如今我们看专家网络,质量和效率两头都得盯,光数人头不行了。去年在数据生产管线上攒下的经验,也因此重新有了分量。
专家的门槛在往上走,生产系统的要求同样在提高。过去大家容易只顾一头,现在两头都松不得。
掏钱请专家,其实反倒是最省事的一环
硅星人:可模型公司组织专家这道难题,你们也躲不开:专家散落在各行各业,需求变得快,质量要求一节比一节高,交付时间还卡得紧。数据公司基本都在花钱招人、加激励,除此之外,差异和竞争力到底落在哪儿?
李宽野:找专家这件事,本身门槛就不低,还得真金白银地投。
先要算一笔价值账:究竟花多少钱,才能请到真正帮得上模型的人。这个数在涨,是符合客观规律的;而怎么找到这批人,本身就是公司的核心竞争力之一。
不过还有另一半竞争力:怎么把他们组织起来,让他们清楚模型当下缺什么。不是随便哪位专家都明白自己该做什么才能帮到模型。他得被培训、被引导,这是另一块核心竞争力。
这块竞争力从哪来?来自对模型能力边界的评测。我们内部会一直做研究,摸清当前阶段模型还不擅长的点和方向,再去物色对应的人,培训他们去做能提升模型能力的事。
整套流程不那么容易规模化,做起来相当复杂,门槛也就在这里。相比之下,砸钱把人招进来,反而是更简单的部分。
硅星人:我能不能这样理解——数据公司需要研究者或者资深专家一起钻研细分领域,研究透了之后形成培训和任务流程,让更多专家更高效地给出专业判断?
李宽野:对。
以前,模型的缺陷由模型公司内部提出来,因为大家追的是共性问题。比如怎么提高 function calling 的准确性,怎么让模型更好地遵循指令。这些偏向模型底层能力的建设,研究员能发挥很大作用。
现在的诉求变了:怎么让模型更接近一位真实专家,怎么结合专家的工作场景,去判断模型做得好不好。
所以我们研究团队里,除了计算机背景的博士,还有生物、金融、法律等领域的博士。他们要跟行业专家一起,判断模型在哪些问题上还做得不够好,哪些问题值得投入。
这项工作的难点,不只在研究本身。怎么把不同领域的人组织起来,让他们共同发现问题、生产数据,同样要投入。有时候,运营和管理的工作量甚至会超过研究。
就我看到的美国市场,发现模型在各行各业的能力边界,已经开始成为数据公司的工作。原因在于数据公司离专家更近,能更快把人组织起来发现模型的问题,再把这些发现转成具体的数据需求:该出什么任务、该构建什么数据集,才能帮模型补上缺口。
国内未来可能也会走到相应阶段,但目前还稍微早了点。
硅星人:作为一家横跨多个行业的数据公司,你们怎么判断这些专家给出的判断?
李宽野:两部分都有。
比如一项任务的评分标准有40条甚至100条,有些涉及深层专业判断,有些则相对浅层。
真正难啃、又说不清楚的那类问题都落在深层,靠的是专家之间先形成一致看法。同一个问题我们请好几位专家分别判断,做法有点像投票,多数人倾向的那个意见,通常离行业里的最优解更近。
浅层那边,模型和工程化手段已经能派上用场。比如把同一个任务交给不同模型去跑,看哪些环节大家都能做对、哪些环节能拉开差距,再据此分辨到底是强模型确实更强,还是评分标准本身出了偏差。
这样还能揪出一些系统性错误:任务描述不清楚,或者明明要求完成 A,验收却检查 B。这类问题可以通过工程化方式识别出来。
从这个角度看,数据行业反而是最能吃到模型红利的行业之一。
把两种方式放在一起用,图的是把数据生产的效率提上来。资深专家就那么些人,得让他们的力气花在刀刃上;工程和模型能提前处理掉的部分,先替专家做完。
这样转起来就是一个循环:模型越强,能接住的简单任务越多,团队再去物色能啃更难问题的专家,反过来推着模型往上走。
硅星人:初创公司不可能一口气扎进十个行业,总得先挑一个,法律、金融或者其他方向。对你们来说,为什么先做 A 而不是 B?
李宽野:大方向上的判断其实不复杂。
比如 OpenAI、Anthropic 会不断放出它们在看什么。我的判断是,国内的动作会比海外慢半年到一年,但大方向差不了太多。
问题是 Anthropic 体量很大,我们挑的注定只是它关注方向里的一个子集,还得结合国情。
有几个问题我们会反复问自己。
头一个,这个行业的经济价值落在哪儿?它对 GDP 的贡献,是个可以参照的角度。
再一个,这件事在国内成不成立,又会以什么样的不同形式成立?中美产业结构的差异我们研究过。按我们的观察,美国法律、律师这类专业白领工作的经济占比更高;国内则是电商、物流等行业的分量更值得关注。
第三,模型厂的注意力在哪儿,特别是国内模型厂正盯着什么。数据带有供应链属性,客户是不是正在往一个方向投钱,直接关系到商业化和变现的效率。
模型厂和数据公司怎么分工?各自把复利做出来
硅星人:数据行业挨着模型很近,模型进步的红利它直接就能吃到。可这是不是也意味着,它最容易被模型公司自己接手做掉?当下的答案和长期的答案,会不会不一样?
李宽野:眼下模型厂内外都在做,国内国外都是这个情况。
但站在智能的角度,我们探的是整个人类社会知识工作的边界和上限。这个问题太大,一家或几家公司很难包下来。
一边是,模型公司内部会招优秀的专业人士,帮着摸清模型的能力边界。科学这类重要领域,他们会找博士、教授进来。领域实在太多,全覆盖很难,这正是数据公司的落脚点之一。
另一边,研究越往深走,市场其实是在变大。去年就有人担心,模型写代码已经这么强,代码数据还能有多少事可做?可真走到新的能力边界,大家又希望模型更深地进入工作流,暴露出来的问题就越来越细。
数据公司的做法是从评测入手,先把一个行业的知识体系拆清楚,再看模型在哪些节点上做得不好,一个个解决。对质量标准的理解、对专家网络的运营,都会在这个过程中攒下来。
往长期看,行业里会分化出很多数据公司,各自扎进特定领域,再靠着已有积累往外扩。
硅星人:现在模型厂内外的数据分工,逻辑是怎样的?
李宽野:模型厂并不排斥外部采购,实际上还比较依赖。就我看到的现阶段,市场仍然供不应求。
分工上,模型厂在一步步搭质量体系,对外采购时把精力放在挡住不好的数据进训练上。
内部生产的数据,多样性一定有限;连接不同的公司,就能借它们接触各个行业、找到不同来源。何况方向变得快,去年大家还在聊代码,今年已经在聊 RSI。模型厂很难每冒出一个方向就迅速拉起一支庞大的内部团队,后面要调头也难。
对模型厂来说,建起数据管控体系,是能产生最大复利的事。
硅星人:你们既然能更贴近人类经验,也能看出模型缺什么,甚至横向比较过不同模型,那为什么不干脆自己做一家模型公司?
李宽野认为,创业公司得守住专注。使命说改就改、摊子越铺越大,反倒容易哪样都做不精。
既然认定数据是重要一环,就该让它有独立的位置。我们的做法是:找出模型的弱点,提出好问题,再把这些问题的解法交给算力和算法过硬的团队,推着模型往前走。
数据质量的分量,已经压过数量和多样性。
硅星人问:质量把关是模型厂自己负责就行,还是供应商得在源头就把高质量数据交出来,这已经是竞争的关键?眼下多样性和质量,哪一个更要紧?
李宽野的回答是:质量比多样性更重要的阶段,已经到了。
模型内部必须设团队把控质量。不然外部就会钻规则和验收的空子,各种乱象都冒出来。内部连最后一道关都不查,很难指望外面能把数据做好。
对数据公司而言,质量一样是核心战斗力。质量、多样性、数量,这是供应商竞争的三个主要维度。
硅星人追问:判断质量,归根到底要看数据进了训练之后能不能让模型变强。可这得真跑训练,还有时间差。“数据质量”这个说法很虚,它到底落在哪些能力上?另外,不同模型厂拿到差不多的数据,差异又会从哪儿来?
李宽野说,最直接的判断标准,就是数据进训练后模型效果有没有涨,在其他评测上有没有涨。
对数据公司来说,这事目前很难做全。Mercor 这样的公司也会拿自己的数据做训练和消融实验,可实验规模和模型厂内部比还有差距。结果能说明一部分质量,但能不能外推到客户的大模型,因果关系有多强,并不好判断。
回到数据本身,有几类活是我们能干的。
一类是模型厂越来越看重的专家思考记录:有多少专家给出了判断,讨论里发生了什么,最后为什么能达成共识。
有些供应商在生产时太依赖 AI,自己的判断没多少,这部分内容自然就拿不出来。
硅星人说,这有点像模型的变化,起先只给答案,后来还得交出思考过程。
李宽野答“对”。他还提到另一项值得投入的活:观察模型执行任务时的行为,反过来分析它为什么失败。这往往对应某类任务里反复出现的失败模式。他认为,长期看数据公司应该更多承担这部分工作。
举个例子,同一个任务交给模型,有一半检查项没过。我们就去看这些失败的地方缺了什么,把缺的方法或经验整理成提示,塞回任务里让它再试一遍。要是带着提示做得更好,就能进一步判断,这段提示是不是点出了模型的能力缺口。
不过得排除一种情况:人为把必要信息藏起来。我把密码捂着不告诉模型,它当然做不出来;再把密码给它,它就能完成。这不算我们要找的能力缺口。
如果提示给的是方法论或者工作经验,这种验证就更有意义。这也是数据公司做得了、客户也比较容易看懂的一种方式。
智能和经验,其实是相对独立的两件事。
硅星人问:Coding 数据不光改善了编程能力,也把模型的通用能力带上去了。数学、科学或者其他行业,会不会也出现类似的情况?你们看到迹象了吗?
李宽野说,他觉得有。
代码和数学跑在前面,是因为它们背后对应着更基础的能力。数学重在推理,代码牵扯工具调用等能力。有些模型公司早期就是按这些能力分团队,你负责提升 reasoning,我负责提升 function call,并不完全按行业来划。
李宽野喜欢拿教育人来类比模型训练。之前的基础能力训练,有点像本科及以下的教育。代码工作恰好很吃这些能力,所以表现突出。这部分基础能力、通用智能的提升不会停,而且还在快速往前跑。
可一旦落到经济价值和真实工作上,不少日常任务根本用不着那么高的智能。模型能解很棘手的题,偏偏一些看着不难的活儿干不好,原因在哪?
大概是它没在真实场景里做过这类事,缺了相关经验。
我看法是,经验和智能算两块相对独立的东西。数学往往在一个比较封闭的范围里,追的是有明确正确答案的题;现实里很多事并没有非黑即白的结论。
同一个场景为何这样定,条件一变又换一种做法,中间全是取舍。这些决策经验攒到一起,我理解本身就是另一种智能。
硅星人:数据公司离下一代模型的训练更近。短期和长期看,接下来哪些方向值得盯?
李宽野:长期方向更稳。短期要看资本往哪走、风口在哪,比较难预判。
放长看,模型得帮到足够多的人,把原本要花大量时间思考的工作做掉。这就要求它扎进各行各业,弄懂不同职业的人怎么想问题、怎么做决定,什么样的决定更优。模型会顺着这个方向继续走。
对个人来讲,平时多用模型、找出它哪里不行,也有意义。先说效率,你用模型的水平会更高。我们接触过一些离 AI 比较远的行业,整体用得还不多,可会用和不会用的人之间,效率差距已经拉得很开。
那些把 AI 用得好的人,往往对数据也摸得更透,清楚模型为什么在这里做不好,会琢磨怎么改,也说不定能靠贡献数据拿到回报。这样的人我们也想找。
审数据的时候我们常问一句:模型要是把这事干成了,你肯为它掏多少钱?答不上来,这份数据对应的价值恐怕就不够硬。
短期里研究热点是 AI for Science 和 RSI。产品拉动的需求更多落在工作场景,特别是白领的知识工作。比方让模型做一份 PPT,光好看不够,内容、结构、表达顺序都得站得住,用户才愿意为这些掏钱。
硅星人:RSI 眼下很火,甚至分出一个 Data RSI 的细方向,你怎么看?
李宽野:RSI 的定义和方向不止一种,数据、算法、模型运行系统这些层面都有自我改进的路子。总体说,我觉得它更多是把现有能力榨到极致。模型要进步,得不断拿到外部信号,RSI 偏内部循环,研究的是怎么把已有信号消化得更好。
比如让模型自己去设计实验、调参数。这点很关键,人类研究员做实验的速度,可能已经追不上模型自己做实验的速度了。目标清楚时,模型能不停试下去,把实验效率提上来,这就是 RSI 的好处。
可智能的边界怎么不断往外推,我觉得单靠 RSI 自己办不到。
我依然认为,少了人的参与,AGI 就无从谈起。