微信AI两篇论文作者盘点：WeLM老将和清华、字节背景新面孔

2026年7月，微信AI公开了Hidden Decoding，想用增加内部计算的办法让已有大模型继续变强。作者名单上，几位参与过2022年WeLM的老成员和近年入职的研究者出现在一起。

周霄、余厚金、陈昱文、杨宇这四个名字在两篇论文中都出现过，同时也有新经历汇入这条线：刘瑷玮从清华来到微信，做模型架构与预训练；王锡淮带着多智能体强化学习的积累转做后训练；曾少勋则从存储系统研究跨进大模型训练与推理。他们和长期做推荐、视觉、音频的同事，在一项项具体工作里产生交集。

从第一代WeLM走来的五个名字

2022年9月21日公开的WeLM，给微信这条基础模型研究线留下了一个清楚的起点。这是一个100亿参数的中文预训练模型，研究的是零样本、少样本和跨语言任务能力，时间比ChatGPT发布还早。周霄、余厚金、陈昱文、杨宇等作者之后持续参与后续项目，这条跨越四年的研究线因此有了可追踪的人员脉络。

四年后的Hidden Decoding，把问题推到“已有大模型怎么持续获得能力增长”上。做法是在继续预训练阶段把每个token展开成多个计算流，增加内部计算，Transformer主干的层数和宽度保持不变。多出来的计算沿序列长度维度展开，能兼容大模型训练用的流水线并行。

计算流一多，注意力开销也会跟着涨。团队用流分解注意力应对：多数层只在各自的流内计算，只有少数层交换信息，并在WeLM-HD4-80B和WeLM-HD4-617B上验证了相对对应基线的能力提升。这项工作给已有大模型指出了一条靠增加内部计算继续提升的路，而且把这条路验证到了千亿参数以上的MoE规模。

Hidden Decoding方法（图片来自Tencent - Hidden Decoding）

从2022年的中文预训练到2026年的内部计算扩展，WeLM研究的问题已经深入到模型的计算组织方式。早期成员一直在场，这一变化也因此显出长期积累的脉络。

模型越做越大，分工越做越细

架构与预训练

张思钧参与过字节Seed的Efficient Pretraining Length Scaling，那篇论文提出PHD-Transformer，探讨预训练阶段的长度扩展与KV缓存管理。他后来加入微信AI，名字也出现在Hidden Decoding作者名单里，两项工作都跟隐藏计算和效率有关。

刘瑷玮于2025年从

刘瑷玮（图片来自本人主页）

刘瑷玮还是WeDLM的第一作者。这项工作中了ICML 2026，盯的是扩散语言模型的一个实际瓶颈：一次恢复多个token能提高生成并行度，但常见的双向注意力难以复用标准前缀KV缓存，理论上的并行优势很容易被重复计算抵消掉。

WeDLM保留标准因果注意力，通过拓扑重排把已知token挪到物理前缀，同时保留它们的逻辑位置，让待恢复位置能用上已有信息。再配上流式并行解码，已确认的token可以不断并入前缀，分块生成中的等待因此减少。

论文在匹配部署条件下与vLLM运行的自回归基线做了比较：困难推理基准上加速接近3倍，低熵生成场景最高到10倍。WeDLM把并行生成接进成熟的缓存与推理机制，推进了扩散语言模型的实际部署。它和Hidden Decoding一个从生成效率切入、一个从内部计算扩展切入，架构设计与系统优化由此一起进入WeLM的研究主线。

WeDLM项目方公布的速度与能力对比（图片来自Tencent - WeDLM）

后训练与软件工程任务

王锡淮是微信AI WeLM团队研究员，主要做大语言模型后训练。他于2026年从

王锡淮（图片来自王锡淮个人主页）

王锡淮是ICLR 2023论文Order Matters的第一作者，该工作提出逐个智能体更新策略的A2PO算法，研究策略更新顺序与样本效率。之后他在NeurIPS 2024发表第一作者工作ZSC-Eval，评估智能体与陌生伙伴的零样本协作能力；又作为共同第一作者参与ACL 2025的DPT-Agent，把研究推进到基于大语言模型的实时人机协作。从多智能体策略优化、协作评测到语言智能体，决策与协作是他持续研究的主线。现在他在WeLM团队从事大语言模型后训练。

陆笛参与WeLM系列模型后训练，研究重点落在软件工程任务上。他也参与了Terminal-Bench，这个基准考察智能体在命令行环境里完成复杂实际任务的能力。

陆笛（图片来自本人主页）

武楚涵的本科阶段在清华大学电子工程系度过，2019年留系读博，师从黄永峰。2018年他曾在微软亚洲研究院社会计算组实习，次年拿到微软学者奖学金，早年的研究方向是用户建模和推荐系统。NRMS这篇EMNLP-IJCNLP 2019论文由他担任第一作者，做法是用多头自注意力去学习新闻内容与用户点击历史之间的关联，据此生成新闻和用户的表示；该方法后来被 Recommenders 工具库收录，在新闻推荐领域算得上持续有人使用、有积累的代表性方法。进微信之前完成的这项工作，恰好说明他在内容理解与用户建模上打下了怎样的研究底子。如今他在微信做基础大模型研究，WeDLM和Hidden Decoding他也参与其中。

武楚涵（右）在2019年微软学者奖学金颁奖仪式现场（图片来自清华大学电子工程系报道）

训练、推理与强化学习系统

杨宇负责微信NLP与LLM基础设施，早年是百度飞桨（PaddlePaddle）的核心开发者。飞桨这个深度学习框架由百度在2016年开源，训练、分布式计算、推理部署都涵盖在内。这段履历让他在底层框架研发和大规模训练系统上攒下了经验，后来也带到了微信的大模型基础设施建设中。Hidden Decoding他同样有参与——系统研发人员直接介入了模型计算机制的探索。

杨宇（图片来自本人 GitHub 主页）

曾少勋在腾讯WeLM团队做研究，方向是大模型训练、推理与强化学习系统，2026年从清华大学博士毕业，导师是陆游游和舒继武。GPU Checkpoint/Restore Made Fast and Lightweight一文由他担任第一作者，该工作拿到了FAST 2026 Distinguished Artifact Award。WeDLM以及智能体强化学习环境WeEnv，他也参与了。把这些工作放在一起看，系统研发已经触及模型生成机制、智能体训练环境这些环节，工程效率成了模型研究里一个实打实的议题。

曾少勋（图片来自本人主页）

多模态的考题，藏在文档、按钮和声音里

柳源的身份是微信AI研究员，MMSelfSup、MMPretrain、MMEngine、MMSegmentation、OpenCompass这些开源项目，他都以核心开发者或维护者的身份参与过。POINTS、POINTS1.5、POINTS-Reader和POINTS-GUI-G背后也有他，研究覆盖视觉语言模型、文档转换和界面定位。

柳源（图片来自柳源个人主页）

POINTS-GUI-G的第一作者是Zhongyin Zhao，柳源、王海诚、Le Tian、周霄、杨宇等共同参与。这项工作的核心任务，是依据指令定位屏幕上的文字、图标等元素，给后续的点击和输入提供位置依据。从通用视觉语言理解走到界面定位，POINTS的研究目标开始直接对准软件交互所需的基础能力。

Unified Audio Schema和UniAudio-Token由张林昊与贾巍共同参与。前一项把音频监督信息组织成转写、副语言信息与非语言事件，后一项则尝试让语义语音tokenizer保留更广的音频感知能力。两人的名字也同时出现在WeDLM和Hidden Decoding的作者名单里，多模态项目与语言模型项目之间出现了人员交叉。

项目方展示的音频表征与识别能力对比（图片来自Tencent - Universal Audio Tokenizer）

POINTS和音频项目放在一起，能看出多模态研究正在把任务切得更细。文档转换要保住页面结构，GUI定位讲究空间精度，音频理解得同时处理语义与声学信息。这些工作把通用模型能力推向各类输入的具体难点，数据、训练方法和评测标准也随之成为竞争的重要部分。

WeAgent把图像创作串成工作流

微信还有一组公开工作围绕多模态智能体展开。WeAgent-MMSearch研究的是文本与视觉信息交互的搜索流程，WeAgent-MMGenEdit则把检索、核验和证据整合带进了图像生成与编辑。

孟凡东是微信首席研究员兼团队负责人，机器翻译、自然语言处理、大语言模型都是他的研究方向。WeAgent-MMGenEdit的通讯作者由他担任，文字导向的图像编辑工作WeEdit他也有参与。

孟凡东（图片来自本人主页）

张辉2026年从复旦大学博士毕业，研究兴趣包括智能体强化学习、生成模型与多模态理解。WeAgent-MMGenEdit和WeEdit的第一作者都是他，WeAgent-MMSearch他也参与其中。这组项目把研究对象扩展到检索、核验、工具调用等任务流程，微信在多模态智能体方向上的投入从中可见。

张辉（图片来自本人主页）

研究的下一站，走进微信的日常

WeChat Vision公开的项目横跨多个视觉任务：WeVisOne-VL把检测、定位、OCR、分割与抠图装进同一个模型，WeVisDoc研究端到端文档解析，WeVisCut探索的是从解说内容到长视频制作的工具调用流程。

孙冲担任WeVisOne-VL与WeVisDoc的项目负责人，这两项工作的通讯作者是李琛。WeMM-Embedding的项目负责人为梅柯，通讯作者是饶峰云。感知与文档任务的关键参与者有重合，多模态表征这条线则由另一组研究者推进。

饶峰云的学历背景是：2006年获清华大学工程物理学士学位，2011年获该校天体物理博士学位。毕业后他进入清华大学与同方威视联合研究所，做安检图像识别算法研究；2013年加入国双科技，负责AI团队；2019年又加入腾讯看点，主抓视频理解算法研发。其团队的多模态算法已在QQ浏览器和QQ看点的多个业务场景落地。从安检图像识别、信息流视频理解一路到WeMM-Embedding，他的技术经历把视觉算法与搜索推荐应用串在了一起。

饶峰云（图片来自AICon 2021讲者介绍）

梅柯（图片来自本人 GitHub 主页）

WeMM-Embedding把上述研究带进了微信的搜索和推荐环节。文本、图片、视频、视觉文档以及混合输入，都被它映射到统一的表征空间里，不同模态的内容因此可以放在一起比较相关性。微信上同时跑着图文、短视频和商品信息，这种表征能力直接用在内容检索与分发上。

据项目方披露，该系列模型已在视频号、公众号、朋友圈和电商服务中投入使用，14项线上A/B测试均取得收益。在这批公开工作里，WeMM-Embedding是把模型研究与微信业务结果连起来的关键一项——用户怎么找到内容、平台怎么匹配内容，视觉研究的价值就落在这两个具体环节上。

李琛的头衔是腾讯高级研究员、微信应用视觉团队负责人。WeVisOne-VL和WeVisDoc由他担任通讯作者，WeLM-Image他也有参与署名，研究方向覆盖视觉感知、文档解析和图像生成。