Vela用十万用户行为训练AI:模型能否读懂具体的人
你有没有想过,一个AI助手要怎样才能真正了解你。不是了解"用户"这个抽象概念,而是了解具体的、独一无二的你:你半夜会搜什么、你的购物车里堆着什么没结账的东西、你刷到什么内容会多停留三秒、你讨厌看到什么就会立刻划走。这种了解,靠读教科书是学不来的,靠互联网上的海量文本也学不来。这正是一群研究者在2026年遇到的...
一个AI助手到底要怎样才算真正摸透你?这个问题不妨先放一放。
它得懂的不是“用户”这个笼统的概念,而是那个具体的、独一份的你:深更半夜你搜过什么,购物车里躺着哪些迟迟没付款的东西,哪类内容能让你多停三秒,什么玩意儿一露头你就顺手划走。这种本事,教科书教不会,互联网上堆积如山的文本也教不会。
2026年,一群研究者就撞上了这道难题。他们给它取了个挺顺耳的名字——“用户维度的智能”,随后干了件颇为大胆的事:把某社交媒体平台十万名用户的真实行为记录,拿来当训练AI的教材。
论文的主角名叫
Vela,它要对付的问题,说起来你可能觉得耳熟。
**眼下AI被越来越多地放进需要“懂人”的场景里**
替你打理日程的个人助理、猜你想买什么的推荐系统、朝你投放广告的系统,都算。这些场景有三处相通:盯的是某一个具体的人,并非“平均用户”;得看懂你几周乃至几年的行为积累;每个判断都要有行为证据撑着,不能凭空瞎猜。
论文把这三条归结为“用户维度的智能”。这个说法挺贴切:它衡量的是AI对你这个具体的人有多懂,并非AI本身有多聪明。
麻烦在于,如今的大模型压根不是照着这件事训练出来的。
它们吞下去的材料是网页、教科书、代码,外加人工合成的数据。这些材料里或许出现过“用户”二字,可没有一样能告诉AI:一个活生生的人,兴趣是怎么从上周到这周一点点挪动的。研究者还撞见一个挺讽刺的现象:数学、代码上更拿手的大模型,到了用户相关任务上未必更行。让模型给用户做长期行为总结,它说着说着就容易滑向一个并不存在的“平均人”,行为历史越长,反而越容易丢掉准头。
这好比请一位从没在你家住过的管家来猜你爱喝什么茶。茶百科全书他读了个遍,每种茶叶的产地、功效都背得出来,可他不知道你每天下午三点雷打不动要喝的是哪一款——你真实的那杯茶怎么续上的,他压根没见过。不让他看你实际的饮茶行为,他张口只能推荐“大众最爱喝的茶”,而非你真正中意的那杯。
那该怎么办?答案其实一直摆在那儿,只是过去没人成体系地用起来。
真实的用户行为数据,早就在各大内容平台和个人助理应用里越堆越高。这些记录里藏着一条现成的监督信号:
用户行为作为监督*:训练AI模型的信号取自用户在平台上的真实动作,并非人工编造的样本或静态文本。用户下一步实际干了什么,就是检验AI预测准不准的标准答案。
思路听着不难,难的是把一团乱麻的行为日志,整理成一份份能喂给AI的“习题册”。
一、从十万人的生活轨迹里,挖出九十一种考题
Vela团队到手的,是某大型社交媒体平台十万名用户的匿名行为记录,每人的历史跨度从几周到几年不等。动工之前,他们先做了一道必要的清理:姓名、联系方式、账号ID这类能直接锁定到具体个人的信息,统统剔除;凡是沾上这类敏感信息的记录,索性整条丢弃不用。
清理完毕,每个用户的行为被分进六个类别:浏览内容、搜索东西、购买商品、发布内容、关注账号,以及“划走不感兴趣的内容”。一个人在社交平台上能干的事,大体跑不出这六类。
再往下,是整篇论文最巧的一步:一条行为时间线,怎么变成一道有标准答案的考题。
研究者的办法是在每个用户的行为序列上切一刀。切口之前叫“可见历史”,是模型能看到的全部信息;切口之后叫“隐藏未来”,这段不给模型看,只用来核对它的预测对不对。切法具体是:每段取七万二千到十二万token的长度,前头大约三分之二划作可见历史,后头三分之一划作隐藏未来。
这“切一刀”的设计,说到底是在还原一个真实的预测场面。你看着一个人过去三周的行为,然后被要求猜他接下来三天要干什么。
就像一部电影只放八十分钟,剩下二十分钟的结局要你来猜。片子若是真实世界录下来的,你猜得准不准有唯一确定的答案,自己编个“合理结局”糊弄不过去。不这么切、放任AI凭空编一个用户故事,它总能编出听着合理却根本不是真相的答案——这样的训练毫无意义,它学会的只是“怎么编得像”,并非“怎么猜得准”。
沿着这种切法,Vela搭出了九十一个问题模板,归入两大家族。
**预测类问题,答案藏在未来里**
预测类问题再分两种。其一是“客观题”:把可见历史和一份候选清单一起交给模型,让它从中挑出用户未来真会做的事,比如会买哪件商品。候选清单里真答案和干扰项混在一起,评分方式很直白——选对算对,对不上就算错。
还有一类题叫“开放预测题”,不给候选清单,让模型自己说,比如直接答用户接下来会搜什么关键词。这类题打分更麻烦,模型的说法和标准答案不可能一字不差。于是研究者让另一个AI当裁判,把模型答案里提到的内容和真实的未来行为做语义匹配,再用“集合F1”这个指标算分。
集合F1是一种衡量预测准确度的指标,它同时看两件事:该猜中的猜中了多少,不该猜的又猜错了多少,两头兼顾取一个平衡值。
**评分类问题,答案没有唯一标准**
另有一类叫“评分类问题”,面对的任务压根没有唯一正确答案。比如“开放题”让模型根据可见历史去总结用户的兴趣、性格或者语言风格,写法可以千变万化,用“对不对”根本判不了,只能靠一套评分细则来打,像“有没有引用具体证据”“有没有躲开没依据的臆测”。
“归因题”也值得一说。它先把用户未来确实发生过的某个行为告诉模型,再让模型根据可见历史解释“他为什么会这么做”。这道题考的不是预测,是解释。好答案要指出证据链,还得老实承认哪里证据不够,不能把“看到的关联”硬说成“确定的因果”。
设计这两套题目家族时,研究者还留了一手:同一个未来行为事件,只能随机归到预测类或者归因类,不能两边都出。道理不复杂,归因题要是先把答案抖出来了,再问预测题,模型根本不用推理,照抄归因题里的信息就能蒙对。
整套流程跑下来,产出了十万道候选题目,覆盖九十一个模板,横跨六大行为类别。出题和评分这两个关键环节,都交给了参数量2.4万亿的大模型Qwen3.8,用的是它的最高思考等级。
二、不是所有题都值得练:难度过滤和轨迹筛选
十万道题听着多,研究者却没打算一股脑全塞进训练流程。他们加了两道关卡。
头一道叫“难度筛选”。做法是让待训练的基础模型Qwen3.6对每道题生成四次回答,不开思考模式,再看这四次回答的平均得分落在哪个区间。平均分在0.2到0.8之间,这道题留下;平均分太低,说明题太难,模型根本无从下手;平均分太高,说明题太简单,模型随便答都能对,练了也长进不了什么。
这个设计背后的道理,和健身房里的“渐进式负重”差不多。举重时杠铃轻到闭着眼都能举起来,练了也白练,肌肉受不到刺激;杠铃重到怎么都举不动,同样练不出来,还容易受伤。真正有效的强度,是拼一下能举起来、不拼就举不起来的那种。太简单和太难的题不筛掉,模型训练时要么学不到新东西,要么被完不成的任务反复打击,效率会掉一大截。
过了难度关,还有第二道关卡,叫“轨迹接受标准”。对每道留下来的题,让生成模型产出四条训练轨迹,也就是四种不同的解题过程和答案,只挑得分最高的一条。这条最高分轨迹还得再检验一次:得分必须超过难度筛选阶段测出的那个平均分,否则这道题这次一条轨迹都不要。
两道关卡把下来,最后留下大约七万五千道题目,每道配一条精选训练轨迹,组成了Vela-Instruct训练语料库。另有一个规模更小的版本Vela-RFT,用的是基础模型Qwen3.6自己生成的轨迹,共9375条训练样本,留给后续强化学习实验用。
三、验证场:十个考场,检验AI到底懂不懂人
训练数据备齐了还不够,研究者另外搭了三组评测体系,用来检验训练效果。
第一组是VelaBench,由九百八十二道留出来、没参与训练的题目构成,题型和训练集一致,九十一个模板全部覆盖。这些题涉及的用户和训练数据里的用户完全不重叠,为的是保证评测公正。
第二组叫“用户相关的分布外评测”,下面有四个独立子榜单。PurchaseIntent考购买意图预测,给一堆候选商品,看模型能不能把用户真正会买的排出来。ProfileSummary考用户画像总结,要求生成结构化的兴趣描述。PersonaBench考对用户属性的多选题判断。AdRecommendation考广告推荐,看模型能不能根据用户资料生成有效的广告检索词。
第三组是“通用能力分布外评测”,用来查这套训练方式会不会把模型别的本事练废。里面包括数学竞赛AIME 2026、科学问答GPQA-Diamond、指令遵循能力IFBench,还有两个考情境学习能力的CL-bench和CL-bench Life。
三组评测合在一起,相当于同时看一个学生专业课学得怎么样、能不能用到现实场景里、别的科目有没有被耽误。这个思路挺实在,专业课分数高,不代表真学明白了,也不代表他没为了刷这门课的分把其他科目荒废掉。
四、训练出来的模型,到底强在哪
基础模型Qwen3.6-35B-A3B总参数三十五亿、激活参数三十亿,拿Vela-Instruct训练一遍,得到的新模型叫Vela-35B-A3B。用Vela-RFT训练出来的版本则叫Vela-35B-A3B-RFT。
结果出来后,数字挺扎实。
VelaBench上,Vela-35B-A3B拿到63.0分,比没训练过的基础模型高出11.5分。更有意思的是,这个激活参数只有35亿的小模型,在这个榜单上甚至压过了参数规模大得多的DeepSeek-V4-Flash和2.4万亿参数的Qwen3.8。
四个用户相关的分布外测试上,Vela-35B-A3B平均提高6.2分,涨得最猛的是AdRecommendation广告推荐任务,提升了11.2分。
通用能力这块反倒最出人意料。按一般经验,专门冲着“懂用户”去训的模型,在数学、科学这类跟用户八竿子打不着的任务上,往往要退步,训练中这种“此消彼长”并不少见。可Vela-35B-A3B在五个通用评测上全部压过基础模型,平均涨了4.0分,IFBench指令遵循提升6.7分,CL-bench Life情境学习提升5.6分。
| 基准测试 | Qwen3.6-35B-A3B基础模型 | Vela-35B-A3B | 提升幅度 |
|---|---|---|---|
| VelaBench | 51.5 | **63.0** | +11.5 |
| ProfileSummary | 20.4 | **30.5** | +10.1 |
| AdRecommendation | 51.1 | **62.3** | +11.2 |
| IFBench | 62.5 | **69.2** | +6.7 |
| CL-bench Life | 7.2 | **12.8** | +5.6 |
| GPQA-Diamond | 82.8 | **87.4** | +4.6 |
这个结果挺能说明问题:拿真实用户行为数据练出来的本事,并不是一块孤立的“用户理解特长”,它还会反过来喂养模型整体的推理与理解力。一种可能的解释是,要读懂一个人复杂多变的行为历史,模型本身就得会从长文本里挑关键信息、盯住变化、把证据拼起来,这些通用能力在练题的过程中顺带也被夯实了。
五、数据越喂越多,模型会不会越学越好
研究者又补了一组扩展实验,想搞清楚一件事:训练数据从几千条一路加到七万五千条,进步曲线会长成什么样。
他们从Vela-Instruct里随机抽出五个不同规模的子集,分别是4.7K、9.4K、18.8K、37.5K和75K条样本,每个子集各训了一遍。
结果是,只用4.7K条样本,VelaBench分数就从51.5蹿到59.2,说明哪怕真实用户行为数据量很小,提升也相当明显。数据量继续往75K加,分数一路爬到63.0,而且37.5K到75K这段还在稳稳往上走,看不出明显到顶的迹象。
用户相关分布外评测的平均分从43.5升到47.5,通用能力评测平均分从55.8升到58.2,所有测试规模下的表现都盖过了基础模型。
这有点像让一个刚入行的厨师一点点加练习量。切第一百个洋葱和切第一个洋葱,手感进步肯定不是等比例的,头一段涨得最猛,可只要食材和火候不出岔子,接着练下去,手艺还是往上走,不会因为练多了反而变差。研究者要是只拿4.7K数据就收手验证,没准会以为天花板到了,多测几个规模点才发现,这条曲线离尽头还远。
六、训练出来的底子,会不会让后续的强化学习更有效
论文还追了一个挺讲逻辑的问题:Vela训出来的模型既然已经是个更懂用户的“好学生”,再去参加强化学习这种更高阶的训练,表现会不会更好?
研究者拿基础模型Qwen3.6和经过Vela训练的模型,分别做同样配置的强化学习,用的方法叫GSPO。
组序列策略优化*:一种强化学习训练方法,通过对比一组生成结果的相对好坏来调整模型,不需要额外训练一个独立的打分网络。
实验结果很直接。VelaBench上,从Vela起点做强化学习,最后能冲到66.2分,从基础模型起点出发只到58.5分,两者差7.7分。ProfileSummary上差距同样是7.7分(37.6对29.9)。还有个更关键的细节:不管哪个起点,强化学习训完的模型都明显高过它训前的监督微调起点,可从基础模型出发做完强化学习的分数,仍然比不上从Vela起点出发、还没做强化学习时的分数。
这个现象值得细琢磨。好比两个学生同样花一个暑假刷题冲刺,一个底子本来就牢,一个基础薄弱,刷同样长的题,底子牢的最后分更高,基础薄的那个就算拼了一整个暑假,可能还赶不上底子牢的那个在暑假开始前的水平。跳过前面“打基础”这个训练阶段直接上强化学习,看着是省了一步,可最终天花板会更低。
七、难度过滤到底值不值得做
论文还单独验了一下难度筛选这步是否真有必要。他们在37.5K数据规模上做了对比,一组正常经过难度筛选,另一组从十万候选题里随机抽样,不做任何筛选。
对比结果很干脆:做了难度筛选的那一组,在四个与用户相关的评测上全部领先,平均多出1.1分;VelaBench上两组却打成平手,均为62.4。按论文的解读,难度筛选起作用的地方主要在“举一反三”的泛化层面,并非让模型把训练过的题型背得更熟。
八、后续可能往哪走
用用户行为来训练AI,这个念头并非Vela首创。P5曾把多个推荐任务收进一个文本生成框架里处理,RLPF则通过预测反馈来训练模型生成用户摘要。不过这些工作各自盯住一个具体应用场景,至于这种做法能不能带动模型更广泛的能力,此前没有人验证过。
接下来的延伸方向,大概可以分成两条。一条是任务模板继续扩充:九十一个模板已经覆盖六类行为,可现实中的用户行为远比这丰富,多模态交互、跨平台行为的拼接,都是有待纳入的新题型。另一条是数据规模继续做大。论文自己也提到,样本量到75K时曲线仍未明显放缓,照此看,如果能灌入更多真实行为数据,用户理解能力和通用能力或许都还有上涨余地。
写在后面
读完这篇论文,让我最感意外的,是它没有绕开真实数据的隐私风险,反而拿出一套相当实在的清理机制来应对这个矛盾。不少做用户行为研究的工作一遇到隐私问题,就转去用合成数据,可合成数据又学不到真实行为的复杂之处,两头为难。Vela的选择是照用真实数据,只是在数据进入训练流程之前,把能定位到具体个人的信息一层层剔掉。这算不上什么新发明,但它说明一件事:真实性和隐私保护,未必只能二选一。
另一个让我反复琢磨的点,是“通用能力不降反升”这个结果。按直觉,专项训练总要付出代价,练用户理解的题,多半会挤占模型本来学别的东西的“注意力”。可实验数据给出的恰恰相反。这说明“理解一个具体的人”背后调用的能力,比我们以为的更基础、更通用。要理解一个人的行为变化,需要从海量噪声里抓重点、跨时间整合证据、识别模式变化,这些本身就是智能的底层构件,并非什么“用户专用技能”。
论文还留下一个没解决的问题,追问起来挺有意思:假如用户行为数据真是一种有效的监督信号,那它和人类写的文本相比,谁更接近“真实世界”?文本是人经过加工、修饰、省略之后写下的东西,行为日志却是未经修饰的、原始的,甚至是不自觉的流露。如果将来AI学习的主要素材从“人写的话”转向“人做的事”,它学到的世界观,会不会和现在完全不同?
Q&A
Q1:Vela是什么?
真实用户的行为数据怎么变成AI训练素材?Vela这套框架给出的做法是:从十万名用户的匿名行为记录里造出十万道训练题目,让大模型借此学会看懂用户、预判用户下一步动作。
Q2:用Vela训练出来的模型效果怎么样?
A:Vela-35B-A3B在用户相关任务上比基础模型平均提升6.2分,在VelaBench上提升11.5分;数学、科学等通用能力测试上也平均提升了4分,没有出现专项训练拖累其他能力的情况。
Q3:Vela会不会侵犯用户隐私?
论文提到,动手构建训练数据之前,姓名、联系方式、账号ID这些能定位到具体个人的信息就已经全部剔除;凡是带有可识别个人身份信息的记录,一律不纳入。数据使用的整个流程也拿到了平台授权,并通过隐私伦理审查。