智能知识：后训练数据创业，人类数据为何仍是关键

“Frontier data, made in China.”这是智能知识官网挂出的 slogan。

它想说的是，中国 AI 下一阶段的竞争里，有一块必须补上——能持续给前沿模型供给的高质量数据。

今天硅谷上下都在热议怎么蒸馏人类经验。Anthropic 等模型公司一边在内部搭数据团队，一边跟外部供应商合作；Scale AI、Surge AI、Mercor 这类公司就借这种紧密协作成长起来，已经出现数家估值数百亿美元的企业。模型能力的较量，已经往数据供给能力上延伸。

这个方向，智能知识提前一年半甚至更早就看到了。

公司成立于 2025年4月，之后拿到五源资本、奇绩创坛的种子轮投资，以及锦秋基金、耀途资本联合投资的天使轮融资。

核心技术成员里，不少人曾在字节内部做模型数据相关的工作，也有人来自 Scale AI 等公司。

创始团队中，创始人兼 CEO 汪涉洋此前负责字节 Seed 的模型数据工程；CTO 李宽野在字节的职责覆盖预训练数据管线，以及推理、工具调用等方向的强化学习数据合成与环境建设；联合创始人兼总裁曾资文出自字节商业化平台与流量策略团队。

2024年下半年，他们在大厂内部共同观察到一件事：模型所需知识的生产，正快速越过模型公司的组织边界。

“后训练正慢慢变成重心，它所需的人类经验分布越来越宽，专业门槛也越来越高，任务一变，数据需求的方向就跟着变。所有这些人，一家公司很难在内部凑齐，把模型要的数据全都产出来。”他们这样表示。

独立数据公司的窗口就此打开。

不过，作为国内几乎最早投身后训练数据的创业公司，智能知识成立后至少半年里，跟投资人聊商业模式时，仍很难得到理解和认同。

曾资文回忆：“从没人懂，到新人没机会，也就半年时间。”

2025年上半年，DeepSeek-R1 等模型进一步证明强化学习能提升推理能力，国内模型团队加快探索后训练与 Agent 能力。到了下半年，这些需求背后的商业机会被更多人看见，一批曾在模型公司内部负责数据与训练的人陆续出来创业，路径和智能知识团队相似。

进入2026年，情况正如我们此前发布的《AI数据凶猛》《此刻AI的未来和热钱，藏在中国的Alexandr Wang里》所写：模厂、创业者、应用、中转站、投资人成批涌入，高订单、高利润、高估值与灰色地带同时存在，拼出这个新市场最热闹的一面。

面对这种混乱，00后、也算“行业老兵”的李宽野认为，主线始终只有一条：“数据不需要什么天才般的想法，就是把每个判断做得足够认真和仔细。”

他把强化学习所需的数据拆成三块：环境，决定模型能看到什么、操作什么；任务，决定模型要完成什么；验证器，判断它到底做得好不好。

模型能力往上走、进入真实生产之后，这三块的难点也在变。

去年他们跑模型评估时，常被底层基础设施卡住：并发一高，整个环境甚至会直接挂掉。今年这类问题少了很多，支撑模型运行的基础设施逐步成熟，行业把更多精力投向复刻真实业务环境。

但他觉得，环境仍是 Easy Part。环境搭好之后，还有两头要回答：训练开始前，哪些任务值得让模型去做？模型做完任务，又该拿什么判断它做得好不好、给出怎样的反馈？

举个例子，让模型把几张发票录进报销系统，任务清楚，核对金额和日期对不对就行。可如果要求换成“下周去上海见客户，安排一下”，模型就得翻邮件、聊天和日历，先弄清到底要安排什么，再协调各项事务。

任务越模糊，环境越复杂，验证还得判断行程合不合理、预算花得值不值、体验好不好。

尤其是业务被搬进冻结、可反复训练的虚拟环境后，现实反馈也跟着缺席。一个真正能让模型提升的好任务，是起点；评分标准是结尾。两头都更依赖专家判断。

一句话，Human Data is all you need。

这跟行业里不少数商的做法不同。过去一段时间，模厂对数量、时限的要求高过质量，不少公司拿合成数据充当“专家数据”；也有不少从业者相信，强模型的能力已经超过人类，它们跑出的轨迹会优于人的操作。

智能知识的看法是，专家经验往后只会更稀缺，可它的分量始终排在第一位。

有人觉得专家经验不重要了，说到底，要么是没找到模型真正需要的那类专家，要么是没能把人的经验变成训练信号。

行业注意力的走向，也印证了他们的判断。

李宽野说，市场重心已经挪过好几回：最早盯的是数据工程管线，讲效率；后来转向迷信专家网络的规模，讲数量；眼下又开始回头打量专家经验，琢磨怎么把高质量数据持续产出来。

“这是数据行业在变好的信号。”

我们跟李宽野聊了他们从模型厂出来创业的经过，也聊了这一年多里他们不断更新的判断。

听他讲，能感到技术人员那种认真和严谨。这个头发稍长、爱玩摇滚的年轻人，说观点前常先来一句“在我的视野里”，把亲眼所见的变化和还没验证的推断分开；他也更愿意站在模型和智能的角度，去推演数据更长远的本质。

比如他说，“RSI 是把现有能力用到极致，但不等于产生新的智能。”

他接着表示，“日常许多工作其实用不上多高的智能，反倒要在多个系统交织的复杂场景中一遍遍捞取信息，还得在没有标准答案时自行判断取舍。智能是一块，经验是另一块，两者相对独立。”

他这套想问题的方式，跟做数据挺像：都得在混沌的世界和抽象的人类经验之间，找出那一条条经得起推敲的信号。

眼下这个行业被生意牵着走，风向一变注意力就被抢走，这场对话倒像是一线从业者难得的冷思考，让人从另一个角度理解今天的智能瓶颈。

官网的自我介绍中，智能知识这样写道，“机器或许跑得更快、力气更大、记性更好。可它身上的人性，取决于我们决定教它学什么、放手什么、给它什么样的品味。我们要做的，是养出一个真正有灵魂的AGI。”

模型能力怎么变，有一点他们一直没松口：

“没有人的参与，就无法达成 AGI。”

下面是对话实录，经编辑整理：

“半年时间，从没人懂，到新人没机会”

硅星人：你们为什么从字节出来做数据创业？那会儿行业还很早，你在模型公司内部看到了什么？

李宽野：我2022年刚进字节，在商业化广告团队做大数据工程。后来大家开始盯 GPT 和 scaling law，我就借这个契机转到了大模型。

当时团队从网上收了海量资料。算法的人更多盯模型架构，工程这边则需要有大数据底子的人去解决另一类问题：整条数据处理管线怎么规模化，数据量那么大的时候，分布式清洗和处理策略怎么设计。我主要参与的，就是预训练数据处理体系的搭建。

做了大半年，大家开始犯愁：互联网的数据差不多用完了，接下来还能做什么？后训练也被越来越多人提起。而在这之前，被关注更多的一直是预训练团队。

2024 年下半年，尤其是 o 系列出来以后，强化学习成了讨论里的重要一块。我参与了一个 GUI Agent 团队的环境和数据建设，也是在这个阶段开始碰复杂环境和长程 Agent。

到了这一步，强化学习不再只是给模型一个输入、让它输出答案、再拿标准答案比对；模型得在环境里连续执行任务，我们也要把相应的训练环境和规模化评测系统建起来。比如让大几千个任务同时在复杂的虚拟环境里roll out，再做后续评估。

这块又做了差不多半年。去年 4 月前后，我就出来做了现在这家公司。

在这之前，我们比较早就聊过一个判断：数据不应该是一项被关在一家公司内部完成的工作。

这门活儿要投入大量人力，还得按任务灵活调配；所需覆盖的知识与经验，分布面又极宽。一家公司想关起门来把模型要的数据全产出来，几乎做不到。反倒给外部公司留出了机会。

这门生意究竟怎么跑，去年2月 Mercor 给了我们启发。那会儿它刚进入视野，对外讲的是面试服务，博客里却冒出了 Human Data。这个细节让我们记了很久。后来才看明白，面试其实是它搭专家网络的入口：先筛出合适的人，再把他们组织起来，为 OpenAI 等公司生产专家数据。

顺着这个思路，我们很快拍板：该出来做一家自己的公司。

硅星人：不少人对数据的印象还停在标注上。可如今模型要的数据越来越复杂，行业里也跑出了高估值公司。从过去到现在，数据到底怎么演变，区别又在哪？

李宽野：每一代模型，要的数据都不一样。

大模型兴起之前，数据标注大多集中在分类、打标这类基础常识活上。比如给一张图，让人判断是猫还是狗。

那会儿这是劳动密集型工作，用不上多强的专业知识。公司想做好，拼的是线下管理：把大批人组织起来、培训到位，把标注做完，把质量守住。

大模型出来之后，数据更吃知识了。拿预训练阶段来说，还有大量检查工作，一段文本有没有有害内容、事实性上有没有毛病，这类活，受过一定教育的人就能上手。

再往后是偏好数据：模型给出两个或三个回答，由人来判断 A 好还是 B 好，这就是 RLHF。跟以前比，它更依赖受过培训、对 AI 有些了解的人。Scale AI 也抓住了从传统标注往这类工作转的机会。

眼下进入第三个阶段，数据越来越由评测来驱动。说到底，是因为得回答一个问题：什么是智能，又怎么判断模型达到了我们期望它具备的能力？

比如大家都说某个模型编程能力强，可强在哪儿？恐怕得找一个干了十年的工程师，把程序员的工作拆成前端、后端、运维，再一层层往下拆，才判断得出具体活儿干得好不好。

一个职业里包含许多种工作，模型在每种工作上的表现，都会影响它在这个领域落地时的经济价值，所以越来越靠有经验的人来判断。

知识和经验会带来附加值，数据也就慢慢变成高附加值的工作。这是我看来的最大变化。

参与者得跟模型深入交流，发现问题，再把“我觉得它做得好或者不好”这种主观感受，转成一条条能验证、能评价的标准。这是数据公司和生产数据的专家都得琢磨的事。

硅星人：创业以后，你们对数据行业的理解有哪些变化？

李宽野：从去年 4 月到现在，市场关注的点其实已经变过几轮了。

一开始，大家主要关心怎么搭标注产线、怎么控数据质量。那时 RLHF 还是主流方案，生产范式没现在这么复杂。有一套比较好的标注规范，质量就能维持在相对高、又可控的范围里。

到了去年下半年，注意力开始从生产系统挪向专家网络。

过去做对错判断、偏好判断，可以让人集中在线下，在相对稳定的环境里生产。可对专业能力的要求越来越高之后，这套方式就很难走下去了：专家来自不同地方，可能还有自己的全职工作，没法被凑到同一个场所。

线上的专家网络因此更受关注。也就在那个阶段，我们开始接到针对专家的定制需求。

到了今年上半年，大家开始相信专家网络有规模效应，认为它可以 Scaling。可很快就发现，把一个有知识的人转化成能生产数据的人，本身成本就很高。专家网络里人已经很多，不等于再多加一个人，成本就会明显往下掉。

与此同时，模型进步很快，先前能帮上模型的人，可能慢慢就帮不上忙了；模型开始进入新领域，又会需要另一批人。比如 CAD、机械制图，今年下半年被提起得更多了。

所以，专家网络的规模效应，没有此前想得那么稳。不能完全照搬互联网行业的老思路，把 Scaling 当成最优先的事。

我们现在会同时盯专家网络的质量和效率，不只看人数。这么一来，去年在数据生产管线上攒下的经验，又重新变得重要了。

专家门槛水涨船高，生产系统那边的要求同样在往上走。以前不少人只盯着其中一头，如今两头都得抓。

出钱请专家，其实是最省事的一环

硅星人：可模型公司绕不开的组织难题，你们一样得碰——专家散落在各行各业，需求转得快，质量标准越抬越高，交付期限又催得紧。数据公司除了掏钱招人、加码激励，还能在哪儿拉开差距？

李宽野：找专家这件事本身就不好办，还得往里砸钱。先是个价值判断：究竟出多少，才请得动能帮模型往前走的人。这个数在涨，也合乎常理；而怎么把这样的人找出来，本身就是公司的核心竞争力之一。

不过还有另一半竞争力：把人组织起来，让他们清楚模型眼下缺什么。随便哪位专家，未必知道自己该做什么才能帮上模型。他得被培训、被引导，这是另一块核心竞争力。这块能力来自对模型能力边界的评测——我们内部一直在研究，摸清当前阶段模型还不擅长的点和方向，再去找对应的人，培训他们去做能提升模型能力的事。

整套流程不容易放大，操作起来挺复杂，门槛也就在这里。相比之下，砸大钱把人招进来，倒算简单的部分。

硅星人：我能不能这样理解——数据公司需要研究员或者资深专家一起钻研细分领域，研究透了之后，形成培训和任务流程，让更多专家更高效地给出专业判断？

李宽野：对。

过去是模型公司内部点出模型哪里不行，因为大家追的是共性问题。比方说，怎么提高 function calling 的准确性，怎么让模型更好地遵循指令。这些偏模型底层能力的建设，研究员能发挥很大作用。

现在的诉求变了：怎么让模型更接近一位真实专家，怎么结合专家的工作场景，判断模型做得好不好。所以我们研究团队里，除了计算机背景的博士，还有生物、金融、法律等领域的博士。他们要和行业专家一道，判断模型在哪些问题上还做得不够好，哪些问题值得投入。

这项工作的难点不止在研究本身。怎么把不同领域的人组织到一起，让他们共同发现问题、生产数据，同样要投入。有时候，运营和管理的工作量甚至会超过研究。

就我看到的美国市场，发现模型在各行各业的能力边界，已经开始成为数据公司的活儿。数据公司离专家更近，能更快把人组织起来发现模型的问题，再把这些发现转成具体的数据需求：该出什么任务、构建什么数据集，才能帮模型补上缺口。国内未来大概也会走到相应阶段，只是目前还稍微早了点。

硅星人：你们横跨多个行业，怎么判断这些专家的判断靠不靠谱？只靠专家网络，还是有一套能量化、能通用的方法？

李宽野：两部分都有。

举个例子，一项任务的评分标准有40条甚至100条，有些涉及深层专业判断，有些则相对浅层。

真正难啃、边界又不清楚的那部分，通常得靠专家们达成共识。做法是让好几位专家分别判断同一件事，有点像投票，占上风的意见一般更接近行业里的最优解。

浅层部分已经能借助模型或工程化手段了，比如让不同模型跑同一个任务，看哪些地方大家都能做对，哪些地方存在区分度，再判断是强模型确实做得更好，还是评分标准有问题。这样还能揪出一些系统性错误：任务描述不清楚，或者明明要求完成 A，验收却检查 B，这类问题可以通过工程化方式识别。

从这个角度看，数据行业反而最能吃到模型的红利。两种方式结合，目的是提高数据生产效率。资深专家的资源有限，我们希望他们的精力尽可能高效，工程和模型能提前处理的部分，就尽量先替专家完成。

模型能力越强，能接住的简单任务就越多，团队随即转向寻找能啃更硬问题的专家，反过来再推模型往上走，循环就这么转起来。

硅星人：初创公司不可能一口气扎进十个行业，总得挑一个先做，法律也好、金融也罢。放到你们身上，为什么先选 A 而不是 B？

李宽野：大方向其实不难判断。OpenAI、Anthropic 会不断放出它们在盯什么，我的判断是，国内的动作会比海外晚半年到一年，但大方向差不了太多。

当然，Anthropic 体量很大，我们能选的只是它关注方向里的一个子集，还得结合国情。有几个问题我们会反复问自己。头一个，这个行业的经济价值落在哪？它对 GDP 的贡献，是个可以参照的角度。

再一个，这件事在国内成不成立，又会以什么不一样的形式成立？中美产业结构的差异我们研究过。按我们的观察，美国法律、律师这类专业白领工作的经济占比更高；国内则是电商、物流这些行业的分量更值得留意。第三个，模型厂的注意力在哪，尤其是国内模型厂在关注什么。数据带有供应链属性，客户是不是正在往某个方向投钱，直接关系到商业化和变现效率。

模厂和数据公司怎么分工：各自攒出自己的复利

硅星人：数据行业离模型很近，模型进步的红利它直接吃得到。可这是不是也意味着，它最容易被模型公司自己顺手做掉？当下的答案和长期的答案，会不会不一样？

李宽野：眼下模型厂内外都在做，国内国外都是这个局面。但从智能的角度讲，我们探的是整个人类社会知识工作的边界和上限。这个问题太大，一家或几家公司很难做完。

一头，模型公司内部会招优秀的专业人士，帮忙摸清模型的能力边界。一些重要领域，比如科学方向，会请博士、教授进来。领域太多，全覆盖不现实，这正是数据公司的落脚点之一。另一头，研究越往深走，市场其实是在变大。去年还有人担心，模型代码能力都这么强了，代码数据还剩多少事可做？可真走到新的能力边界，大家又盼着模型更深入地进工作流，暴露出来的问题就越来越细。

作为数据公司，我们从评测入手，先把一个行业的知识体系拆清楚，再看模型在哪些节点上做不好，一个一个解决。对质量标准的理解、对专家网络的运营，也会在这个过程中攒下来。

放长看，行业里会分化出很多数据公司，各自往特定领域里扎，再靠已有积累往外扩。

硅星人：现在模厂内外的数据分工，逻辑是怎样的？李宽野：模型厂并不排斥外部采购，实际上还挺依赖。就我看到的现阶段，市场仍然供不应求。

分工上，模型厂在一步步搭质量体系，对外采购时把精力放在挡住不好的数据流进训练。原因在于，内部生产的数据多样性一定有限，连上不同公司，就能借它们接触各个行业、找到不同来源；何况方向变得快，去年大家还在聊代码，今年已经在聊 RSI。模型厂很难每碰上一个方向就迅速拉起庞大的内部团队，往后调整方向也麻烦。

对模厂来说，把数据管控体系建起来，是能形成最大复利的事。

硅星人：你们更接近人类经验，也能看出模型缺什么，甚至横向看过不同的模型，那为什么不干脆自己做一家模型公司？

李宽野：我看还是分工的问题。虽说大家都讲数据带来智能，但我不想看轻算力基础设施和算法的作用，它们一样重要。大规模强化学习训练，靠的是大量算法和工程活儿：优化集群、调训练算法和参数。这些都得持续积累、持续投入。

创业公司同样得守住专注。使命说改就改，手头的事越铺越多，结果往往是哪样都做不精。

既然认定数据是关键一环，它就该有独立的位置。我们负责找出模型的弱点、提出好问题，再把问题交给算力和算法做得好的公司，让模型继续往前走。

数据质量，已经比数量和多样性更重要了

硅星人：质量判断是该交给模型厂，还是由供应商在源头把高质量数据供上？这件事是不是已经成为竞争的重要部分？眼下多样性和质量，哪一个更关键？

李宽野：在我看来，已经到了质量比多样性更重要的阶段。

模型内部必须设一个把控质量的团队。不然外部就会出现各种钻规则空子、利用验收漏洞的做法。内部连最后一关都不查，很难相信外面能把数据供好。

对数据公司而言，质量同样是重要的竞争力。质量、多样性、数量，这是供应商最重要的三个竞争维度。

硅星人：判断质量，最终要看数据进入训练后能不能提升模型。可这得真跑训练，还存在时间差。“数据质量”这个说法很抽象，它到底体现在哪些能力上？另外，不同模型厂拿到类似的数据，差异又会来自哪里？

李宽野：最直接的判断，就是数据进了训练之后，模型效果有没有提升，其他评测上有没有提升。

这件事数据公司目前很难完整地做。像 Mercor 这样的公司也会拿自己的数据做训练和消融实验，但实验规模和模型厂内部仍有差距，结果只能说明一部分质量。能不能外推到客户的大模型、因果关系究竟有多强，并不容易判断。

回到数据本身，有几类工作我们可以做。

一类是模型厂越来越看重的专家思考记录：有多少专家贡献了判断，讨论中发生了什么，最后为什么能达成共识。

有些供应商在生产过程中太依赖 AI，自己的判断很少，这部分内容也就提供不了。

硅星人：这有点像模型的变化，一开始只给答案，后来还要给出思考过程。

李宽野：对。另一项值得投入的工作，是观察模型执行任务时的行为，反过来分析它为什么失败。这类失败可能对应某类任务中反复出现的模式。我认为长期看，数据公司应该更多承担这部分工作。

拿同一个任务让模型跑，有一半检查项没过。这时要做的，是看失败的地方究竟缺什么，再把缺的方法或经验整理成提示，塞回任务里重新试。要是加上提示后表现变好，就能接着判断这提示有没有点出模型的能力缺口。

但要排除人为隐瞒必要信息的情况。我把密码藏起来不告诉模型，它当然做不出来；再告诉它密码，它就能完成。这不属于我们要找的能力缺口。

如果提示给的是方法论或工作经验，这种验证就更有意义。这也是数据公司能做、客户也比较容易理解的一种方式。

智能和经验，是相对独立的两件事

硅星人：Coding 数据带来的不只是编程上的进步，模型的通用能力也跟着上去了。放到数学、科学乃至别的行业，会不会也出现类似的变化？目前你们观察到什么迹象没有？

李宽野：我觉得有。

代码和数学之所以跑在前面，原因在于它们对应的是更底层的能力。数学考的是推理，代码则牵扯工具调用这类本事。早些年有些模型公司分团队就是按能力来的——你管 reasoning，我管 function call，并非完全照着行业切分。

我喜欢拿教育人的方式来理解模型训练。之前的基础能力训练，有点像本科及以下的教育。代码工作恰好非常依赖这些能力，所以表现突出。这部分基础能力、通用智能的提升不会停下来，而且还在快速向前。

可要说经济价值和实际工作，不少日常任务根本用不上那么强的智能。那问题就来了：模型连难题都能处理，怎么反而做不好那些看着不难的活儿？

原因可能在于，它没在真实场景里干过这类活，缺的是相关经验。

在我看来，经验和智能这两样东西相对独立。数学往往在一个比较封闭的范围里，追的是有明确正确答案的问题；现实里很多事压根没有非黑即白的答案。

同一个场景为什么这么决策，换个条件又换成另一种做法，中间有大量取舍。这些决策经验攒在一起，我理解也算另一种层面的智能。

硅星人：数据公司离下一代模型的训练比较近。短期和长期看，接下来哪些方向值得关注？

李宽野：长期方向更稳。短期会被资本动向、风口这些因素带偏，不太好预测。

往长里看，模型要帮到足够多的人，把原本要花大量时间思考的工作做掉。这就要求它扎进各行各业，弄明白不同职业的人怎么想问题、怎么拍板、什么样的决策更优。模型会顺着这个方向继续走。

对个人来讲，平时多用模型、找出它哪里不行，也是有价值的。先说使用效率会更高。我们接触过一些离 AI 比较远的行业，整体用得还不算多，但用得好和用得差的人，效率差距已经很明显了。

反过来，把 AI 用得好的人，对数据通常也理解得更深。他知道模型为什么在这件事上做不好，会琢磨怎么改，也可能靠贡献数据拿到收益。这样的人我们也想找。

审数据的时候我们常问一句：模型要是把这事做好了，你肯为它掏多少钱？答不上来，这份数据对应的价值恐怕就不够扎实。

短期研究热点是 AI for Science 和 RSI。产品拉动的需求更多落在工作场景，尤其是白领的知识工作。比如让模型做一份 PPT，光好看不够，内容、结构、表达顺序也得站得住，用户才愿意为这些掏钱。

硅星人：RSI 现在很热，甚至还分出一个细分方向叫 Data RSI，你怎么看？

李宽野：RSI 的定义和方向不止一种，数据、算法、模型运行系统这些层面的自我改进都算。总体讲，我觉得它更多是把现有能力榨到极致。模型要进步，得持续从外界拿到信号；RSI 更多是在内部打转，研究怎么把已有信号消化得更好。

比如让模型自己去设计实验、调参数。这挺重要，因为人类研究员做实验的速度，可能已经追不上模型自己动手的速度了。目标明确的时候，模型能一直试下去，把实验效率提上来，这是 RSI 带来的好处。

但智能的边界怎么持续往外推，我觉得光靠 RSI 自己办不到。

我仍然认为，没有人参与进来，AGI 就达不成。