曾妍一年连跳两级,字节10万亿参数路线图浮出
周畅离职,曾妍上位:字节这场路线之争,嫡系赢了空降兵
95后曾妍的晋升速度,正在字节内部引发关注。
1997年出生的她,2021年通过校招进入字节,之后成为Seedance的预训练负责人。字母AI曾在《字节的“罗福莉”,撑起了Seedance的半边天》一文中对她做过详细报道。
眼下有传言说,曾妍的头衔已经升至Seedance核心负责人。今年3月她的职级还是3-2,到11月已到4-2,一年之内连跳两级。另外,原Seed核心负责人周畅手中的工作,也有越来越多交到了她手上。
在人才密度极高的字节Seed团队里,这样的上升节奏并不多见。
背后的原因,或许在于她的路线跟张一鸣的想法更对得上。她作为项目负责人带队发表的那篇论文,就是最好的例证。
论文题为《Cola2:把视频生成领域的扩散模型与连续隐空间方法用于语言建模》,权重于11月上半旬在Hugging Face上开放。
论文给出的方法,是让模型用生成视频的路子来处理文字。据论文披露,这种做法既更省算力,生成效果也更好。
这篇论文,同时也可以看作一份路线图。
曾妍从扩散模型出发、相信规模效应,这与外媒爆料中张一鸣亲自带队的超大参数模型理念一致,也契合张一鸣在字节内部会上提出的长期主义。
算力吃紧的当下,字节很难同时铺开多条线。于是部门被合并,多线赛马改成了集中押注——先在一个模态上打赢,再让赢的人带着方法走向其他模态。
曾妍的路线,就是这场押注。
Cola2讲了什么
要解释Cola2这篇论文,得先科普一件事。
眼下主流的大语言模型,像DeepSeek、Qwen、豆包,用的都是同一套办法——“自回归”。它类似成语接龙:根据前面已经写出的内容,猜下一个token是什么,猜完一个再猜下一个,从左到右,一个一个往外蹦。
这套办法很成功,可它有个天生的毛病:没法像人写文章那样,提前把提纲列出来。
人写文章,通常是先想好这段要讲什么,再去组织语言。自回归模型则是边写边想,写到哪算哪,而且必须排队——前一个字没写出来,后一个字就无从谈起。
Cola2的思路,是把写字这件事拆成两层。
第一层,先在一个叫“连续隐空间”的地方,把“要说什么”想清楚;第二层,再把想好的意思,落成一个个具体的字。
相当于第一层列提纲,第二层照着提纲把正文写出来。
“隐空间”这个词听着带点科幻色彩,其实用AI生成视频的人天天都在用。
一段视频的原始数据量很大,直接拿来训练,算力根本不够。所以视频生成模型的通行做法,是先把画面压成一个体积小得多的“压缩包”,模型在压缩包里干活,最后再解压成一帧一帧的画面。
模型在压缩包里完成的那一步,叫“扩散”。这跟以前冲胶卷是一个道理:起先得到的底片满屏都是雪花点,噪点由模型一点点抹去,图像也就逐渐显现。
Cola2的逻辑,就是把“生成文字”当成“生成视频”来处理。
这个逻辑在第一代Cola DLM上就已经有了,但Cola DLM存在短板。Cola2的论文表示,Cola DLM在生成类任务上偏弱,问题出在负责“写正文”的那个解码器上。于是Cola2的主要作用就是弥补这个短板,它比上一代多做了三件事。
头一件事,是让模型学会按语义来切分。
要想把文字像视频那样压下去,先得想清楚切块的依据是什么。
过去的路子很死板,按固定长度切,两个token算一块。这么一来,“北京烤鸭”可能被拆成“北京”和“烤鸭”,也可能切出“京烤”这种让人摸不着头脑的组合。
Cola2换成了按语义动态切分,平均两个token归成一个“提纲点”,哪几个token凑在一起,交给内容本身去定。
压多少,由一个类似空调恒温器的负反馈机制来管。压得过猛,像“北”“京”“烤”“鸭”各自成块,它就自动放松一点;压得太松,像“北京烤鸭好吃”整句挤在一起,它就自动收紧一点,始终维持在目标值附近。
实验数据显示,按语义切分比按固定长度切分准确率高8.2%。更耐人寻味的是,设置得当的时候,压缩后的成绩是29.4%,反而略高于完全不压缩的28.7%。这说明被压掉的主要是冗余信息。
第二件事,是让负责写正文的解码器既能照提纲复述,也能自行发挥。
解码器要是只会照着提纲念,提纲一旦出错,整篇文章就跟着错。Cola2在训练解码器时,特意喂给它三种提纲:一种清晰完整,一种加了噪点、看不清,还有一种压根不给。
这有点像训练演员,提词器有时清楚,有时花屏,有时直接黑掉,他都得能把戏演下去。
最终定下的比例是,只有两成情况提供清晰提纲,其余八成要么模糊要么没有。即便如此,解码器依据清晰提纲还原原文的准确率仍保持在99.5%以上。
真正动笔写的时候,再用 CFG 这个旋钮去调“听提纲的”和“自己发挥的”各占多大比重。
第三件事,是让提纲和正文一块儿训练。副标题里的Co-Adaptive(协同适应)说的就是这个。
以往的做法通常是把“压缩器”先训好、冻结住,然后再去练写正文的部分。
提纲模板一旦定死,写文章时就算发现提纲有问题,提纲那边也完全不理。Cola2让两边同时练,写正文的觉得哪里不够用,信号就回传过去,迫使提纲那边做出调整。
实验结果里,把压缩器完全锁死不让改,成绩是47.6%。两边联合训练,涨到53.5%。再叠加一个让压缩器学会“预判后文”的训练目标,成绩进一步提升到58.2%。
这里还藏着一个反直觉的设计:负责列提纲的 DiT,只许学习,不许反过来改动压缩器。
Cola2训练用了约3460亿个token,模型尚未收敛,8项任务平均60.10分,在HellaSwag和StoryCloze两项上超过了Llama-3-8B。而Llama-3公开的预训练量在15万亿 token 以上,是它的43倍多。
算力方面,论文的说法是,由于平均两个token压成一个提纲点,DiT要处理的序列短了一半,理论上它主要的计算量会降到原来的一半,注意力部分降到四分之一。
论文末尾写道:模型“远未收敛”,尤其是 DiT。训练规模“受限于可用资源”。要想探到这条路的上限,还得靠更大的模型、更长的训练、更多的数据和算力。
论文还提到,连续隐空间有望成为文字与图像、视频之间的共享接口,通往“理解与生成的统一”。
“理解与生成的统一”,正是周畅在字节讲了一年多、却一直没讲通的那件事。
曾妍的路线更符合张一鸣
11月12日,澎湃新闻报道,张一鸣最近在一次面向AI团队的全员会上说,字节有能力和OpenAI、Anthropic竞争,但真正追平前沿,“最早也要到2029年或2030年”。
在张一鸣看来,Seed 的预训练数据量跟海外最头部的那批公司相比“仍然少了”,这也是当前最该盯紧的事。另有外媒消息显示,Seed 手上正预训练一款参数最高能到 10 万亿的模型。
数据量不够、模型还得往大了做、长期主义不能丢——这几条摆在一起,明显更贴曾妍那一路。周畅走的路子,跟这个方向并不合拍。
2025年7月,原来管视觉生成的杨建朝走人,图像生成和视频生成两条线交到了周畅手上。打那以后,他在字节内部推起一套新提法,叫做“多模态理解与生成统一”。
按周畅的构想,是以理解为起点,把生成能力也装进来,一个模型既看得懂又画得出。
可这套故事最终没能落地。
周畅接手之后,最能代表这种统一思路的产物,是今年2月跟Seedance 2.0同期亮相的图像模型Seedream 5.0 Lite。
字节内部给5.0 Lite的定性是“a relatively small model”(一个相对较小的模型),认为它在结构稳定性、写实度和审美上“仍有改进空间”。社区那边的看法比较一致:周畅懂理解,可对生成并不算熟。
一位阿里Qwen的研究员说,“理解、生成统一”眼下基本没有已知行之有效的方案,还没谁能做成。这种阶段一味加参数,未必加得出结果。
今年8月Seed做了一次组织调整,周畅起家的VLM被收进大语言模型体系,原先的独立部门降格成一个数据子部门。一位Seed内部人士的话是:“他(周畅)丢了龙兴之地,基本就没有核心地盘了。”
说起来曾妍也是理解出身。2021年入职,才过两个月,她就以第一作者身份发出X-VLM,做的就是让AI把图里的对象和文字对应起来。
比方说输入“穿红衣服的小女孩在骑自行车”,模型得在图中准确锁定那个小女孩。
2023年转进Seed以后,她开始朝生成方向走。2024年她参与的PixelDance,攻的就是视频里人物一动就变形这个毛病,如今这是字节视频生成的核心技术底座,Seedance这个名字也是从这儿来的。
Seedance 2.0能成,跟“理解生成统一”并无直接关联。它把视频和音频塞进同一个DiT里联合生成,画面与声音天然同步。Seedance 2.0的本事,主要来自曾妍拿手的“连续”。
所以有Seed人士讲,Seedance真正的leader是曾妍,技术和决策都落在她这一层。
理解与生成的训练目标不同,数据形态不同,计算方式也不同。硬往一个模型里塞,两头容易互相掣肘。
这就好比《射雕》里周伯通的左右互搏术,左手画圆不难,右手画方也不难,难的是两只手同时来。
面对这道题,周畅和曾妍选的是相反的方向。
周畅从语言模型起步,曾妍从扩散模型起步。
更要紧的一点在于,曾妍比周畅更信规模。
2025年底,Seedance团队聚餐时聊到下一代模型的训练方案。曾妍主张训一个更大的模型,参数起码200B,也就是2000亿。团队里有人认为太冒险,先训100B更稳,曾妍坚持一步到位。之后在Seed的正式评审会上,吴永辉和周畅都站到了她的方案这边。
更早之前外网有爆料说,张一鸣正带着字节做一个10万亿参数的大模型,作为中国首富的他亲自下场参与。这么看,曾妍的路线跟张一鸣想干的事更对得上。
还有一层差别,在于出身。
周畅是字节花八位数年薪挖来的,入职时带了十几个阿里旧部,还因此惹出阿里的竞业仲裁。在字节两年,至少两次传出他要离职。
一位Seed内部人士说:“周畅总是玩乌龙,他每次想走,过两周又留下来。”
曾妍不一样,她是字节自己招的校招生,五年做到4-2,全程都在Seedance这条线上。对字节而言,周畅和曾妍的亲疏之分摆在那儿。
字节在AI上的打法,正从多线赛马转向集中押注。
过去字节每进一个新领域,往往不只拉一个团队。张一鸣更倾向同时铺开几支队伍并行摸索,谁先跑出来就押谁,抖音正是这样跑出来的。
大模型这仗,走的也是同一条路。
最近两年,Seed招来了国内规模最大的一批顶尖研究员,分布在文本、代码、视觉、语音、推理等方向上。据晚点报道,曾有人向他们许诺,在这里能靠自己的创新站上“潮头”。
一位曾在Seed工作的研究员说:“每个人都想成就一番事业。”
可两年下来,“潮头”立得太多,反倒成了字节在AI上往前走的阻力。
最棘手的是算力。
大参数模型最耗的就是算力,而算力恰恰是最稀缺、最金贵的资源。
晚点的说法是,字节虽是AI上投入最坚决的一家公司,可眼下手里的算力储备已撑不起多线并行的研发方式,把资源收拢到少数核心项目上,成了更现实的选择。
家里孩子多,以前家底又厚,每个孩子都能报好几个兴趣班。如今想挑一个孩子去冲顶尖名校、考出好成绩出人头地,其他表现平平的孩子就得上少点兴趣班了。
前文提到的字节8月组织调整,走的正是这个逻辑。
Seed的基础模型团队新设了四个一级部门:预训练数据、强化学习、面向办公的后训练、面向对话的后训练,负责人均直接向吴永辉汇报。
公告里的原话是:“合并相似工作、减少overlap(重合),内聚在一起。”
此前Seed按模态划分团队,文本、代码、视觉、推理各配各的数据团队和后训练团队。
早期这么做,有利于快速补齐各项能力。可方向一多,团队业务开始重叠,有的方向重复投入,跨团队沟通的成本也一路走高。
模型做大,并不是简单地把参数往上加,它是个系统工程。
参数变多,就得有更多、更好的数据同步跟上,不然多出来的参数只是在反复学已经学过的东西。结果就是,钱砸得再多,也很难见到收益。
到了5万亿、10万亿参数的规模,已经容不下每个模态各养一套数据团队、各搞一套后训练。
另一方面,字节希望下一代模型直接走向Omni(全模态),让语言、代码、视觉、语音都装进同一个底座。
也正因如此,各类数据放多少、在什么阶段放、怎么保持平衡,都会左右最终的能力表现。
一位从业者对晚点表示:“Omni是行业的趋势。”
腾讯今年7月把多模态模型部门并入了姚顺雨负责的大语言模型部门;阿里从Qwen3.5起,把视觉能力直接融进主线模型,不再单独发通用的视觉理解模型;DeepSeek V4.1 Flash也原生集成了视觉理解。
Seedance已经说明,领先的模型能力能很快换来用户增长和API收入。
当然,字节看的也不只是眼前的收入。
张一鸣在Seed的一次内部会议上讲过,模型在一段时间里落后是可以接受的,团队更该把追求智能上限当成重要目标。
他还说,做模型得坚持长期主义、延迟满足感,不能拿别人的输出去换一时的榜单排名。
11月初的报道显示,Seedance的海外收入占比已达50%,过去半年海外收入涨了近5倍。
不过在最关键的基础模型战场上,Seed还在追赶。编程和Agent能力尤其明显落后于月之暗面、智谱这些创业公司。
张一鸣的判断是,字节要追上前沿模型,“最早也要到2029年或2030年”。
这样看,字节选曾妍,实质上是在押一条路:先在一个模态上打赢,再让打赢的人带着赢下来的方法,往别的模态扩。
字节当年也是这么起家的——先在今日头条上把推荐算法跑通,再把这套打法搬到抖音上。