曾妍一年连跳两级,字节10万亿参数路线图浮出

资讯 钛媒体 全文 5523 字 · 约 14 分钟读完 分类字节跳动人事变动学术研究

周畅离职,曾妍上位:字节这场路线之争,嫡系赢了空降兵

所属频道 大厂动态人物与组织前沿研究

95后曾妍的晋升速度,正在字节内部引发关注。

1997年出生的她,2021年通过校招进入字节,之后成为Seedance的预训练负责人。字母AI曾在《字节的“罗福莉”,撑起了Seedance的半边天》一文中对她做过详细报道。

眼下有传言说,曾妍的头衔已经升至Seedance核心负责人。今年3月她的职级还是3-2,到11月已到4-2,一年之内连跳两级。另外,原Seed核心负责人周畅手中的工作,也有越来越多交到了她手上。

在人才密度极高的字节Seed团队里,这样的上升节奏并不多见。

背后的原因,或许在于她的路线跟张一鸣的想法更对得上。她作为项目负责人带队发表的那篇论文,就是最好的例证。

论文题为《Cola2:把视频生成领域的扩散模型与连续隐空间方法用于语言建模》,权重于11月上半旬在Hugging Face上开放。

论文给出的方法,是让模型用生成视频的路子来处理文字。据论文披露,这种做法既更省算力,生成效果也更好。

这篇论文,同时也可以看作一份路线图。

曾妍从扩散模型出发、相信规模效应,这与外媒爆料中张一鸣亲自带队的超大参数模型理念一致,也契合张一鸣在字节内部会上提出的长期主义。

算力吃紧的当下,字节很难同时铺开多条线。于是部门被合并,多线赛马改成了集中押注——先在一个模态上打赢,再让赢的人带着方法走向其他模态。

曾妍的路线,就是这场押注。

Cola2讲了什么

要解释Cola2这篇论文,得先科普一件事。

眼下主流的大语言模型,像DeepSeek、Qwen、豆包,用的都是同一套办法——“自回归”。它类似成语接龙:根据前面已经写出的内容,猜下一个token是什么,猜完一个再猜下一个,从左到右,一个一个往外蹦。

这套办法很成功,可它有个天生的毛病:没法像人写文章那样,提前把提纲列出来。

人写文章,通常是先想好这段要讲什么,再去组织语言。自回归模型则是边写边想,写到哪算哪,而且必须排队——前一个字没写出来,后一个字就无从谈起。

Cola2的思路,是把写字这件事拆成两层。

第一层,先在一个叫“连续隐空间”的地方,把“要说什么”想清楚;第二层,再把想好的意思,落成一个个具体的字。

相当于第一层列提纲,第二层照着提纲把正文写出来。

“隐空间”这个词听着带点科幻色彩,其实用AI生成视频的人天天都在用。

一段视频的原始数据量很大,直接拿来训练,算力根本不够。所以视频生成模型的通行做法,是先把画面压成一个体积小得多的“压缩包”,模型在压缩包里干活,最后再解压成一帧一帧的画面。

模型在压缩包里完成的那一步,叫“扩散”。这跟以前冲胶卷是一个道理:起先得到的底片满屏都是雪花点,噪点由模型一点点抹去,图像也就逐渐显现。

Cola2的逻辑,就是把“生成文字”当成“生成视频”来处理。

这个逻辑在第一代Cola DLM上就已经有了,但Cola DLM存在短板。Cola2的论文表示,Cola DLM在生成类任务上偏弱,问题出在负责“写正文”的那个解码器上。于是Cola2的主要作用就是弥补这个短板,它比上一代多做了三件事。

头一件事,是让模型学会按语义来切分。

要想把文字像视频那样压下去,先得想清楚切块的依据是什么。

过去的路子很死板,按固定长度切,两个token算一块。这么一来,“北京烤鸭”可能被拆成“北京”和“烤鸭”,也可能切出“京烤”这种让人摸不着头脑的组合。

Cola2换成了按语义动态切分,平均两个token归成一个“提纲点”,哪几个token凑在一起,交给内容本身去定。

压多少,由一个类似空调恒温器的负反馈机制来管。压得过猛,像“北”“京”“烤”“鸭”各自成块,它就自动放松一点;压得太松,像“北京烤鸭好吃”整句挤在一起,它就自动收紧一点,始终维持在目标值附近。

实验数据显示,按语义切分比按固定长度切分准确率高8.2%。更耐人寻味的是,设置得当的时候,压缩后的成绩是29.4%,反而略高于完全不压缩的28.7%。这说明被压掉的主要是冗余信息。

第二件事,是让负责写正文的解码器既能照提纲复述,也能自行发挥。

解码器要是只会照着提纲念,提纲一旦出错,整篇文章就跟着错。Cola2在训练解码器时,特意喂给它三种提纲:一种清晰完整,一种加了噪点、看不清,还有一种压根不给。

这有点像训练演员,提词器有时清楚,有时花屏,有时直接黑掉,他都得能把戏演下去。

最终定下的比例是,只有两成情况提供清晰提纲,其余八成要么模糊要么没有。即便如此,解码器依据清晰提纲还原原文的准确率仍保持在99.5%以上。

真正动笔写的时候,再用 CFG 这个旋钮去调“听提纲的”和“自己发挥的”各占多大比重。

第三件事,是让提纲和正文一块儿训练。副标题里的Co-Adaptive(协同适应)说的就是这个。

以往的做法通常是把“压缩器”先训好、冻结住,然后再去练写正文的部分。

提纲模板一旦定死,写文章时就算发现提纲有问题,提纲那边也完全不理。Cola2让两边同时练,写正文的觉得哪里不够用,信号就回传过去,迫使提纲那边做出调整。

实验结果里,把压缩器完全锁死不让改,成绩是47.6%。两边联合训练,涨到53.5%。再叠加一个让压缩器学会“预判后文”的训练目标,成绩进一步提升到58.2%。

这里还藏着一个反直觉的设计:负责列提纲的 DiT,只许学习,不许反过来改动压缩器。

Cola2训练用了约3460亿个token,模型尚未收敛,8项任务平均60.10分,在HellaSwag和StoryCloze两项上超过了Llama-3-8B。而Llama-3公开的预训练量在15万亿 token 以上,是它的43倍多。

算力方面,论文的说法是,由于平均两个token压成一个提纲点,DiT要处理的序列短了一半,理论上它主要的计算量会降到原来的一半,注意力部分降到四分之一。

论文末尾写道:模型“远未收敛”,尤其是 DiT。训练规模“受限于可用资源”。要想探到这条路的上限,还得靠更大的模型、更长的训练、更多的数据和算力。

论文还提到,连续隐空间有望成为文字与图像、视频之间的共享接口,通往“理解与生成的统一”。

“理解与生成的统一”,正是周畅在字节讲了一年多、却一直没讲通的那件事。

曾妍的路线更符合张一鸣

11月12日,澎湃新闻报道,张一鸣最近在一次面向AI团队的全员会上说,字节有能力和OpenAI、Anthropic竞争,但真正追平前沿,“最早也要到2029年或2030年”。

在张一鸣看来,Seed 的预训练数据量跟海外最头部的那批公司相比“仍然少了”,这也是当前最该盯紧的事。另有外媒消息显示,Seed 手上正预训练一款参数最高能到 10 万亿的模型。

数据量不够、模型还得往大了做、长期主义不能丢——这几条摆在一起,明显更贴曾妍那一路。周畅走的路子,跟这个方向并不合拍。

2025年7月,原来管视觉生成的杨建朝走人,图像生成和视频生成两条线交到了周畅手上。打那以后,他在字节内部推起一套新提法,叫做“多模态理解与生成统一”。

按周畅的构想,是以理解为起点,把生成能力也装进来,一个模型既看得懂又画得出。

可这套故事最终没能落地。

周畅接手之后,最能代表这种统一思路的产物,是今年2月跟Seedance 2.0同期亮相的图像模型Seedream 5.0 Lite。

字节内部给5.0 Lite的定性是“a relatively small model”(一个相对较小的模型),认为它在结构稳定性、写实度和审美上“仍有改进空间”。社区那边的看法比较一致:周畅懂理解,可对生成并不算熟。

一位阿里Qwen的研究员说,“理解、生成统一”眼下基本没有已知行之有效的方案,还没谁能做成。这种阶段一味加参数,未必加得出结果。

今年8月Seed做了一次组织调整,周畅起家的VLM被收进大语言模型体系,原先的独立部门降格成一个数据子部门。一位Seed内部人士的话是:“他(周畅)丢了龙兴之地,基本就没有核心地盘了。”

说起来曾妍也是理解出身。2021年入职,才过两个月,她就以第一作者身份发出X-VLM,做的就是让AI把图里的对象和文字对应起来。

比方说输入“穿红衣服的小女孩在骑自行车”,模型得在图中准确锁定那个小女孩。

2023年转进Seed以后,她开始朝生成方向走。2024年她参与的PixelDance,攻的就是视频里人物一动就变形这个毛病,如今这是字节视频生成的核心技术底座,Seedance这个名字也是从这儿来的。

Seedance 2.0能成,跟“理解生成统一”并无直接关联。它把视频和音频塞进同一个DiT里联合生成,画面与声音天然同步。Seedance 2.0的本事,主要来自曾妍拿手的“连续”。

所以有Seed人士讲,Seedance真正的leader是曾妍,技术和决策都落在她这一层。

理解与生成的训练目标不同,数据形态不同,计算方式也不同。硬往一个模型里塞,两头容易互相掣肘。

这就好比《射雕》里周伯通的左右互搏术,左手画圆不难,右手画方也不难,难的是两只手同时来。

面对这道题,周畅和曾妍选的是相反的方向。

周畅从语言模型起步,曾妍从扩散模型起步。

更要紧的一点在于,曾妍比周畅更信规模。

2025年底,Seedance团队聚餐时聊到下一代模型的训练方案。曾妍主张训一个更大的模型,参数起码200B,也就是2000亿。团队里有人认为太冒险,先训100B更稳,曾妍坚持一步到位。之后在Seed的正式评审会上,吴永辉和周畅都站到了她的方案这边。

更早之前外网有爆料说,张一鸣正带着字节做一个10万亿参数的大模型,作为中国首富的他亲自下场参与。这么看,曾妍的路线跟张一鸣想干的事更对得上。

还有一层差别,在于出身。

周畅是字节花八位数年薪挖来的,入职时带了十几个阿里旧部,还因此惹出阿里的竞业仲裁。在字节两年,至少两次传出他要离职。

一位Seed内部人士说:“周畅总是玩乌龙,他每次想走,过两周又留下来。”

曾妍不一样,她是字节自己招的校招生,五年做到4-2,全程都在Seedance这条线上。对字节而言,周畅和曾妍的亲疏之分摆在那儿。

字节在AI上的打法,正从多线赛马转向集中押注。

过去字节每进一个新领域,往往不只拉一个团队。张一鸣更倾向同时铺开几支队伍并行摸索,谁先跑出来就押谁,抖音正是这样跑出来的。

大模型这仗,走的也是同一条路。

最近两年,Seed招来了国内规模最大的一批顶尖研究员,分布在文本、代码、视觉、语音、推理等方向上。据晚点报道,曾有人向他们许诺,在这里能靠自己的创新站上“潮头”。

一位曾在Seed工作的研究员说:“每个人都想成就一番事业。”

可两年下来,“潮头”立得太多,反倒成了字节在AI上往前走的阻力。

最棘手的是算力。

大参数模型最耗的就是算力,而算力恰恰是最稀缺、最金贵的资源。

晚点的说法是,字节虽是AI上投入最坚决的一家公司,可眼下手里的算力储备已撑不起多线并行的研发方式,把资源收拢到少数核心项目上,成了更现实的选择。

家里孩子多,以前家底又厚,每个孩子都能报好几个兴趣班。如今想挑一个孩子去冲顶尖名校、考出好成绩出人头地,其他表现平平的孩子就得上少点兴趣班了。

前文提到的字节8月组织调整,走的正是这个逻辑。

Seed的基础模型团队新设了四个一级部门:预训练数据、强化学习、面向办公的后训练、面向对话的后训练,负责人均直接向吴永辉汇报。

公告里的原话是:“合并相似工作、减少overlap(重合),内聚在一起。”

此前Seed按模态划分团队,文本、代码、视觉、推理各配各的数据团队和后训练团队。

早期这么做,有利于快速补齐各项能力。可方向一多,团队业务开始重叠,有的方向重复投入,跨团队沟通的成本也一路走高。

模型做大,并不是简单地把参数往上加,它是个系统工程。

参数变多,就得有更多、更好的数据同步跟上,不然多出来的参数只是在反复学已经学过的东西。结果就是,钱砸得再多,也很难见到收益。

到了5万亿、10万亿参数的规模,已经容不下每个模态各养一套数据团队、各搞一套后训练。

另一方面,字节希望下一代模型直接走向Omni(全模态),让语言、代码、视觉、语音都装进同一个底座。

也正因如此,各类数据放多少、在什么阶段放、怎么保持平衡,都会左右最终的能力表现。

一位从业者对晚点表示:“Omni是行业的趋势。”

腾讯今年7月把多模态模型部门并入了姚顺雨负责的大语言模型部门;阿里从Qwen3.5起,把视觉能力直接融进主线模型,不再单独发通用的视觉理解模型;DeepSeek V4.1 Flash也原生集成了视觉理解。

Seedance已经说明,领先的模型能力能很快换来用户增长和API收入。

当然,字节看的也不只是眼前的收入。

张一鸣在Seed的一次内部会议上讲过,模型在一段时间里落后是可以接受的,团队更该把追求智能上限当成重要目标。

他还说,做模型得坚持长期主义、延迟满足感,不能拿别人的输出去换一时的榜单排名。

11月初的报道显示,Seedance的海外收入占比已达50%,过去半年海外收入涨了近5倍。

不过在最关键的基础模型战场上,Seed还在追赶。编程和Agent能力尤其明显落后于月之暗面、智谱这些创业公司。

张一鸣的判断是,字节要追上前沿模型,“最早也要到2029年或2030年”。

这样看,字节选曾妍,实质上是在押一条路:先在一个模态上打赢,再让打赢的人带着赢下来的方法,往别的模态扩。

字节当年也是这么起家的——先在今日头条上把推荐算法跑通,再把这套打法搬到抖音上。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 抖音生活服务换帅:莫少君接棒,字节用红果打法攻美团腹地

    11月17日,抖音生活服务换帅。浦燕子因个人及家庭原因卸任总裁、转任公司顾问,接棒的是红果短剧负责人莫少君。抖音集团对外口径一如既往地克制:“正常的管理岗位轮换与交接”,并重申生活服务是长期发展方向,会持续投入、长期经营。一纸公告看不出太多波澜,真正耐人寻味的是两任掌舵者的履历温差。浦燕子2013年加入字节,是今日头条

    来源 腾讯网
  2. 曾妍的新论文,就是字节 “10万亿”路线图

    95后的曾妍,正在快速晋升。 曾妍于1997年出生,2021年以校招的方式进入字节,后来成为了Seedance的预训练负责人。字母AI在文章《字节的“罗福莉”,撑起了Seedance的半边天》中曾对她进行过详细报道。 如今有传言称,曾妍的头衔已经上升为Seedance核心负责人。早在今年3月时,曾妍的职级还是3-2,而

    来源 AI 行业观察
  3. 抖音生活服务换帅,莫少君接棒浦燕子

    执掌抖音生活服务三年后,浦燕子将这一业务交给了红果短剧负责人莫少君。11月17日消息,浦燕子因个人及家庭生活安排卸任抖音生活服务总裁,转任公司顾问,后续将参与公益等工作。抖音集团回应称,此次调整属于正常的管理岗位轮换与交接,公司将继续投入生活服务业务。两任负责人的履历各有侧重。浦燕子是抖音集团早期员工,...

    来源 腾讯网
  4. 抖音生活服务换帅:浦燕子转任顾问,“红果操盘手”莫少君接棒

    (文/刘媛媛 编辑/吕栋)11月17日,据多家媒体消息,因个人及家庭生活安排,浦燕子将不再担任抖音生活服务总裁,转任公司顾问,后续将参与公司公益等相关工作。该职务由红果短剧负责人莫少君接任。对此,抖音集团方面回应观察者网称,此次调整属于正常的管理岗位轮换与交接,生活服务是公司长期发展方向之一,对该板块会持...

    来源 腾讯网
  5. 浑水建英伟达空头头寸:押注公司治理,不盯财务造假

    浑水此次做空的理由与传统的财务造假质疑有所不同,核心焦点在于英伟达公司治理层面。在浑水宣布做空前,英伟达股价已因CEO黄仁勋12日宣布离职等动荡而处于剧烈波动之中。在财报发布前,黄仁勋在社交平台发布辞职后的首次公开声明,表示如果董事会邀请,他愿意重返英伟达担任CEO。黄仁勋试图重返英伟达的努力,在董事会那里没有得到回应

    来源 TechWeb
  6. 李沐加盟的Aimotion,是一家什么AI公司?

    最新消息,这位前AWS AI资深首席科学家、Apache MXNet创始人之一、卡内基梅隆计算机博士,已经正式出任硅谷AI公司Aimotion的联合创始人兼CTO,亲自带队搭建其下一代产业级AI技术体系。

    来源 量子位
  7. 英伟达Q3营收1158.44亿美元:黄仁勋愿回归任CEO

    英伟达新任临时CEO科莱特·克雷斯。图片经由AI处理 文丨苏扬编辑丨徐青阳 英伟达在黄仁勋离职后交出了第一份成绩单。美国当地时间11月17日,英伟达公布截至2026年10月25日的2027财年第三季度财报。财报显示,英伟达当季营收1158.44亿美元,同比增长103%,环比增长20%;净利润652.87亿美元,同比增长

    来源 腾讯网
  8. 英伟达安抚机器人初创:黄仁勋离任后投资照常,已投超35家

    IT之家 11 月 18 日消息,科技媒体 Business Insider 今天(11 月 18 日)发布博文,报道称在黄仁勋突发离职后,英伟达及其风险投资部门 NVentures 已联系至少 3 家其投资的机器人初创公司,明确表示业务将“照常进行”,以稳定市场对其机器人投资战略的担忧。 这一动作发生在临时 CEO

    来源 AI 行业观察
  9. 英伟达安抚机器人被投企业:物理AI投入不减,业务照常

    IT之家 11 月 18 日消息,科技媒体 Business Insider 今天(11 月 18 日)发布博文,报道称在黄仁勋突发离职后,英伟达及其风险投资部门 NVentures 已联系至少 3 家其投资的机器人初创公司,明确表示业务将“照常进行”,以稳定市场对其机器人投资战略的担忧。这一动作发生在临时 CEO 科

    来源 腾讯网
  10. 一年卖了5000万,第一批明星AI产品还是下线了

    2026年11月,字节扣子企业版停止接受新客户,腾讯元器于11月9日停服。按IDC统计,2025年中国智能体开发平台公有云市场约2.5亿元,扣子以19.3%排第一、测算约4800万元。文章认为独立AI工具市场太小,正被收回主干。

    来源 凤凰科技
  11. 知乎推出Paper开源计划:论文与讨论打通,科研作者可绑定身份

    知乎把论文阅读与社区讨论连接了起来。近日,2026知乎科学季收官。除了邀请科研人员参与线下交流,知乎还在科学季期间推出“Paper开源计划”,将论文关联、讨论入口和研究者身份绑定纳入社区功能。基于这项计划。用户阅读论文时,可以通过插件查看知乎上的相关讨论;社区问题可以关联论文卡片,方便读者查阅原始研究;科研...

    来源 腾讯网
  12. 纳德拉解释微软6万人买断:AI改变工作本质,让员工自己选

    微软在2026年10月向6万名员工提出买断方案,CEO纳德拉首次公开解释这一决定。他指出,AI正在改变工作的本质,与其再次大规模裁员,不如让员工主动选择去留。这背后是微软对AI时代组织形态的深层思考,也折射出整个科技行业在AI浪潮下的转型阵痛。

    来源 AI 科技快讯
  13. 字节跳动洽谈微软5亿美元Azure:OpenAI为何不满?

    IT之家 11 月 19 日消息,据《The Information》今日报道,字节跳动正与微软进行深入谈判,计划额外采购约 5 亿美元(IT之家注:现汇率约合 33.4 亿元人民币)的 Azure 云服务,其中大部分支出将用于调用 OpenAI 的 AI 模型。知情人士称,这笔潜在交易引发了 OpenAI 对微软的不

    来源 AI 行业观察
  14. Jason Wei离职Meta:天价挖来的思维链作者为何一年就走?

    亏贼!小扎去年掷出上亿美金天价年包,好不容易从OpenAI撬来的“思维链”作者Jason Wei—— 入职Meta刚满一年出头,竟然直接提桶跑路了! 而且,跑路的下家不是什么巨头,而是一家刚刚起步的数据初创公司…… 就在刚刚,Jason Wei在X上发帖官宣: 自己将离开Meta的TBD实验室,加入创业公司Mercor

    来源 AI 行业观察
  15. 豆包工作DAU超800万:上线三个月,企业ARR破20亿

    11月18日,豆包官方宣布,上线仅三个月的豆包工作日活跃用户数(DAU)突破 800 万,企业客户年度经常性收入(ARR)突破 20 亿元。 豆包工作是豆包面向生产力场景推出的 AI 产品及品牌,自8月25日正式发布以来,持续更新专业办公能力。11月16日,豆包工作上线 “工作台” 功能,首批覆盖金融、医疗、教育、创意

    来源 AI 行业观察
  16. 英伟达临时CEO首秀:开源AI战略与Hugging Face收购不变

    英伟达创始人兼CEO黄仁勋突然离职后,公司临时CEO首次公开表态,重申开源AI战略保持完整,并确认仍计划收购AI模型托管平台Hugging Face。分析认为,作为“卖铲人”的英伟达与开源生态利益高度绑定;不过,黄仁勋离场带来的战略连续性问题,以及收购可能面临的反垄断审查,仍是外界关注的焦点。

    来源 AI 科技快讯
  17. 黄仁勋离职后英伟达营收仍看涨:AI算力狂热能否撑起增长故事?

    据TechCrunch报道,尽管创始人兼CEO黄仁勋因丑闻离职令英伟达陷入动荡,公司仍预计创纪录的营收势头不会中断。这份乐观指引背后,是AI算力需求的持续狂热,也是客户集中、竞争加剧与治理重建的多重考验。市场正在追问:没有了“皮衣教主”的英伟达,还能把增长故事讲多久?

    来源 AI 科技快讯
  18. 马斯克要赴华参会,顺手帮黄仁勋把X蓝标免费恢复了

    有网友调侃,8美元一月的X蓝V马斯克掏腰包给续上啦。事实上,黄仁勋在今年7月才刚刚开通了X账号,并发布首条帖子。多家媒体报道称,马斯克预计随特朗普代表团出席深圳APEC相关活动。飞行途中,马斯克在X上发帖,称机上“只有我和老黄(黄仁勋)”。当地时间11月17日,辞职不到一周的黄仁勋在社交媒体发布声明,表示如果董事会认为

    来源 TechWeb
  19. 黄仁勋卸任后蓝标消失,马斯克:免费给他恢复

    有网友调侃,8美元一月的X蓝V马斯克掏腰包给续上啦。事实上,黄仁勋在今年7月才刚刚开通了X账号,并发布首条帖子。多家媒体报道称,马斯克预计随特朗普代表团出席深圳APEC相关活动。飞行途中,马斯克在X上发帖,称机上“只有我和老黄(黄仁勋)”。当地时间11月17日,辞职不到一周的黄仁勋在社交媒体发布声明,表示如果董事会认为

    来源 TechWeb
  20. 英伟达拒重新任命黄仁勋:CEO辞职后请缨回归未获批准

    据TechCrunch报道,英伟达前CEO黄仁勋在上周辞职后提出愿意重返最高职位,但公司明确表示不计划重新任命其为CEO。这一表态终结了外界对这家AI芯片巨头领导层变动的猜测,也引发了对创始人角色与公司治理边界的讨论。本文梳理事件始末、行业背景及潜在影响。

    来源 AI 科技快讯
向下滚动自动加载更多