姚顺雨回应混元为何不追5万亿参数:Hy4仍待改进,计划训更大模型
IT之家 11 月 21 日消息,11 月 21 日凌晨,腾讯首席 AI 科学家、混元大模型负责人姚顺雨和团队成员,在 Reddit 进行了一场持续 120 分钟的 AMA,回答全球开发者关于混元的“任何问题”。 问答环节,有人询问:字节跳动、Kimi 等似乎都在往 3 万亿、甚至 5 万亿参数的超大模型推进,而你们还
11 月 21 日凌晨,一场持续 120 分钟的 AMA 在 Reddit 上进行。腾讯首席 AI 科学家、混元大模型负责人姚顺雨带着团队成员,就混元的各种问题回答了全球开发者的提问。
有开发者问:字节跳动、Kimi 等似乎都在朝 3 万亿甚至 5 万亿参数的超大模型走,混元为何还停留在 7000 亿?参数量对模型能力究竟有多大实际影响,这方面又有什么打算?
混元团队的说法是:“Hy3 和 Hy4 已经表明,做得扎实的小模型也能超过更大的模型。它们的成本也更低,而且在这个过程中,你能学到更多、收获更多。”
团队同时承认,Hy4 还有不小的提升余地,后训练尤其关键。“我们正投入大量精力进行大规模强化学习,同时继续改善用户体验和模型安全。我们还计划训练更大规模的模型。”
被问到会不会做 240 亿到 310 亿参数的稠密模型时,团队回答:“有可能,我们正在考虑。”
至于是否推出对标 Qwen 27B 稠密模型的小模型、以及 100B 以下专攻编程的模型,团队分别回应:“第一个,有可能。第二个,大概不会。”

姚顺雨的履历:本科读的是清华大学姚班,后在普林斯顿大学取得计算机科学博士学位,2024 年加入 OpenAI,参与了智能体产品 operator 与 deep research 的开发。他的研究集中在语言智能体与现实世界的交互,提出的 ReAct 方法首创“推理 — 行动”结合的智能体范式,已被学术界和工业界广泛采用。
2025 年 12 月,腾讯调整大模型研发架构,新设 AI Infra 部、AI Data 部、数据计算平台部,试图全面强化大模型研发体系与核心能力。姚顺雨担任“CEO / 总裁办公室”首席 AI 科学家,向腾讯总裁刘炽平汇报;他还兼任 AI Infra 部、大语言模型部负责人,向技术工程事业群总裁卢山汇报。
今年 7 月,腾讯把混元多模态模型部门与大语言模型部门合并为基础模型部,由姚顺雨统一管理,目的是提升模型研发和协同效率,探索全模态模型的智能上限。