人工核验成AI落地标配：企业转型方向正在走偏

不少企业把人工核验当作AI落地的稳妥方案，结果掉进了自动化悖论：核验岗位本身寿命很短，人力的价值也在不断缩水。转型真正的着力点，不是让人去补AI的短板，而是抓住技术打开的新空间，围绕新决策、新业务重组组织，去挖更高维度的增长机会。

“流程里始终有人把关。”

这大概是企业聊AI落地时出现频率最高的一句话。高管拿它说明上这类系统是稳妥负责的，也拿它安抚员工，说工作不会受冲击。可这句听着让人安心的话，最后往往只是把公司里最核心、最有价值的员工，派去守着那些很快就要被机器接走的工作。

思想领袖们经常讲，未来人类劳动者的位置，就是补上机器填不了的缺口。一家头部风投机构就提出过，知识经济时代很快会形成四类主要的人类岗位：AI结果不可信时最终担责的人，设计机器运行工作流的人，维系智能代理接不住的人际合作关系的人，以及核验机器输出内容的人。这套设想如今频繁出现在咨询框架、学术预判和AI厂商的落地指南里。监管机构甚至已经把它写进了法规：欧盟《人工智能法案》要求对高风险AI系统实施人工监督，人工把关几乎成了负责任落地AI的通用简称。

这类预判背后的逻辑都差不多：先找出AI眼下干不了的事，再划定人要接手、用来补缺口的工作。按这套思路，人就是裹在还不完善的自动化外面的一层安全防护。自由职业平台Fiverr上，写作类需求里增速最快的是“AI内容人工润色”，半年内搜索量上涨641%。校对AI生成文稿，从2023年起就已经单独成为一类服务。翻译行业受AI冲击尤其明显，如今校对机器译文的业务大约占到欧洲语言服务公司营收的四分之一，传统笔译业务规模则逐年萎缩。就连那些保留下来、专为修正机器输出而设的岗位，工作内容也在不断收窄，要掌握的技能越来越少，几乎不再要求员工学新东西。

让人去补机器的缺口，听起来审慎稳妥，在很多人担心饭碗不保的时候，它也承诺了工作的延续性。问题是这套思路从现有的工作流程出发，先挑出智能体能接手的任务，再把剩下的边角活儿分给人。按这个视角，未来的组织不过是在今天的组织上去掉已经自动化的任务，再加一层人工监督。人在这里，从来没有被当成全新生产力的来源。

这套思路其实埋着几处风险。自动化研究做了几十年，结论之一是：系统越顺手，人这道防线越容易松。机器越靠谱，盯着它的人越容易走神，手艺一点点退掉，注意力也越来越散。四十年前，莉桑娜·班布里奇（Lisanne Bainbridge）给这种情况起了个名字，叫自动化的悖论——自动化接手得越多，人反而越离不开那些正被自动化一点点磨掉的能力。AI把这道难题又往上抬了一级。它出错的时候，写出来的东西照样语气笃定、行文流畅、结构完整，跟做对时看不出差别。审核的人如果只顺一遍文字通不通，压根判断不了内容真不真。

就算核验机制起了作用、人真揪出了错误，每一处修正也会被收作训练数据。人类处理的每一个特殊案例，都会教会系统自己去应对同类情况；训练数据质量越好，未来需要人工核验的范围就越小。举个例子，xAI在2025年9月裁撤了大约500名通用型“AI辅导专员”，同时宣布计划把专项岗位的规模扩大十倍。要挑未来最容易消失的人类岗位，这类核验岗位的寿命无疑是最短的。

不过，靠人工把关撑起来的组织，还有一处病根更深：这套顶层设计把转型想反了。它让企业盯着机器眼下还干不了的那块不断缩小的地盘打转。更大的机会其实在这儿——约束被AI打破之后，新的工作搭配、新的决策权限、新的价值形态都能立起来。企业也就有机会照这些新决策去重搭组织、重排业务，不必守着旧岗位里越剩越少的那部分。这也是全文要谈的主线。

两场转型

每当一项通用技术进入某个行业，企业都会碰到相似的组织抉择。机器能力变强，曾经束缚工作方式的种种限制被打破，人们得以转向从前难以触及的高价值工作。

执行层面的约束一旦解除，一家组织能承担、能做出的决策空间就会拓宽。不妨看看电影行业近年的变化。2019年，《曼达洛人》向行业证明，巨型LED屏可以实时渲染生成虚拟场景，让摄制团队直接在镜头前拍下复杂特效画面。这看着只是特效技术的革新，实则拉开了电影生产组织模式根本性变革的序幕。它带来的改变其实更深远：很多原本要放到后期制作阶段才敲定的决策，被提前到了拍摄现场。场景的风格、布光、画面构图，大量最终成片里的视觉效果，都能在演员实拍的同时完成创作与确认。创作者不用搭实景布景，也不用等上好几个月的特效工期，就能在丰富的虚拟场景之间切换；大制作级别的世界观搭建，用电视剧的预算也能实现。

特效艺术家的角色同样挪了位：不再等拍完再去补画面，而是从开头就介入，决定镜头该拍进什么。约束一消失，哪些决策有价值、这些决策落在谁手上，都跟着变了，电影业的组织架构也围着做这些新决策的人重新排了一遍。新岗位跟着冒出来，把摄影、美术置景、视觉特效和计算机技术揉在一起，比如虚拟制片主管、LED影棚操作员、虚拟摄像师。

新闻编辑部这些年的变化，也能看到类似的业务“重新组合”。过去编辑部把三件事捆在一起：采集事实、写稿、分发内容。生成式AI把写稿、拟标题、做摘要都变简单以后，不少编辑部的做法只是让记者多花时间审AI写的稿子，编辑部自己的架构一点没动。

但编辑部真正该抓的机会，是往上游走：找出值得深挖的线索、核验信息来源、产出别人愿意采信的证据。BBC在AI时代最有代表性的编辑创新，并不是一条配着人工复核、写稿更快的流水线，而是BBC核查组（BBC Verify）。面对不断冒出来的AI虚假信息，编辑部专门拉了一支记者队伍，靠开源情报、卫星影像、溯源分析和数据科学，去核实有争议说法的真伪，而不只是转述报道。路透社也朝这个方向走，搭起专门的核验与事实核查团队，把经过核验、基于事实的报道本身做成独立的商业产品。

管理转型

跳出人工把关这套模式，并不是要等AI一直迭代到不再需要人核验。领先的企业不会先想机器能接手哪些任务，而是反过来问：这项技术造出了哪些从前没有的岗位，再围绕这些岗位重新设计组织。要做到这一点，可以参考下面几个步骤：

1、梳理被打破的约束与新增能力，而不是盘点可以自动化的任务

常规的AI转型路线图，一上来就做任务盘点：哪些工作能交给机器，能省下多少工时。这个起点得换掉。对每一个业务模块，要问的是：哪一项旧约束消失了？这打开了哪些新机会？哪些事从前成本太高、迭代太慢、目标市场太小，根本做不起来？

2021年起，宜家把日常咨询交给了客服聊天机器人，员工因此腾出手来做更有价值的事。2021到2023年，这个机器人一共接住320万次咨询，帮公司省下近1300万欧元。英格卡集团（宜家最大零售运营方）步子迈得更大，为8500名客服中心员工安排了远程室内设计方向的再培训。人员转向个性化咨询服务以后，宜家的算盘不只是砍客服开支，还顺势把销售和服务能力做了起来。到2022年，英格卡集团远程销售渠道的年营收已有13亿欧元。宜家并没有拿自动化去压现有业务的成本，它想的是让自动化把员工能创造的价值放大。

2、资助前沿创新项目，而不只是效率优化项目

效率方案通常显得更务实、更容易推行，可企业一旦采纳，就容易一直困在“自动化减负”的框框里，把更深的组织重构往后推。每个AI业务立项时，团队要回答的不只是能省多少工时，还得提出一个这项技术刚刚才有机会解决的新问题。英国加菲尔德律所（Garfield Law）2025年5月拿到英国律师监管机构资质，成了该国首家“AI驱动律所”。它接的是传统律所认为无利可图的小额债务追偿，服务费最低2英镑，每起案件都有挂牌律师全程担责；上线一年内，它发起了数百起诉讼，首起有争议的庭审也打赢了。这并非在原有市场里把效率提一提，而是经济成本结构变了之后长出来的新市场。

3、持续评估人的能力，同步跟进AI能力的迭代

岗位定义要是静态的，根本追不上每隔几个月就更新一轮的AI能力曲线。强生公司用机器学习分析数千名技术人员的工作数据，推算各人的技能状况，再对照企业下一阶段战略所需的能力打分，而且多轮迭代、持续更新评估。强生没把员工能力看作一成不变的存量，它搭了一套体系，持续判断员工眼下能做什么、该学什么，以及技术演进之后，他们的价值贡献还能往哪个方向走。

4、把治理规则内嵌进业务流程，而不是最后再加一道核验关卡

事后核验节点不光稳定性不够，技术往前走，它还会一步步失灵。治理该做的不是少管，而是换一套范式：规则嵌进业务流程，责任人负责把控，校验持续进行。

摩根士丹利在财富管理业务全面上线GPT-4助手前后的做法可以一看。试点阶段，公司内部专家先定下高质量回答的标准，整理出大约400道“标杆问题”，每题配上确定无误的标准答案，拿来测试系统。随后，摩根士丹利把评估环节接进正式业务链路，每天跑一套由标杆问题组成的回归测试集，找系统短板，看版本更新会不会拉低回答质量、碰合规红线。在监管要求极高的知识服务领域，这套方案做到的是部署过程中的持续治理，而不是隔一阵子回头复核顾问给出的回复。

5、检验自己是不是真的在推动转型

真正的组织重构，与单纯重新分配任务，有三点核心区别。第一，企业边界重新划定：驱动转型的学习闭环和核心AI能力，企业选择自己内化，而不是长期向外采购、租用服务商的能力。第二，组织单元变了：团队围着那些刚刚可以解决的新问题搭起来，不再按旧业务流水线的环节切分。第三，重心转移：开展这套新业务的职能部门，离CEO更近。

只添一批头衔，上面这三重变化却没发生，那算不上重构，只是换了种形式重新分派任务，骨子里还是人工把关的组织模式。

约翰迪尔（John Deere）的转型，正好把这三点落了地。它先重新划定企业边界，2017年收购计算机视觉初创公司Blue River Technology，把核心的模型迭代能力收到内部。接着2020年调整组织单元，设备业务不再按单独的产品线划分，改为围绕生产系统重组——也就是按作物种植和其他农事工作中相互关联的任务与决策来搭业务。第三步，这家183年历史的企业第一次设首席技术官岗位，权力重心随之改变：统一技术栈的权责，交到直接向CEO汇报的高管手里。这一连串决策，改动了约翰迪尔自主掌控的能力、业务的组织方式，以及技术相关决策归谁拍板。它没有把AI塞进既有的组织框架，而是顺着新技术打开的机会，把整套框架重新设计了一遍。

AI扫清执行端约束之后，收益会流向那些自己决定怎么用这份新自由的企业：做什么产品、服务谁、攻哪些问题。企业若只把员工打发去处理剩下的边角任务，丢掉的就不只是转型机会。它们错把业务拆解当终点，忘了这其实是激发全新思考的起点。时间一长，那些新的控制权——模型迭代、治理规则、客户关系、能持续优化系统的专属知识，会一点点落到工具厂商和竞争对手手中；自家员工反倒成了帮别人养竞争优势的标注训练员。

关键词：#AI

桑吉特·保罗·乔达里（Sangeet Paul Choudary）| 文

桑吉特·保罗·乔达里（Sangeet Paul Choudary）身兼数职：他是AI与平台战略方向的高管顾问，也在加州大学伯克利分校担任高级研究员，还曾四次跻身《哈佛商业评论》“十大必读文章”作者之列。

周强 | 编校