openEuler熊伟:大模型一万条指令,操作系统如何接住?
不急着造Agent OS,先把承重墙立起来 文|白 鸽 编|王一粟 AI大模型的浪潮下,当数据中心的硬件和上层应用都在变化,中间层的操作系统自然也要改变。 ....
不急着造
编|王一粟
AI大模型往前推进,数据中心里硬件和上层应用都在变,夹在中间的操作系统没有理由不动。openEuler委员会主席熊伟的说法很直接:“人可能一秒钟能发出一个指令,而大模型会发出一万个指令。”指令的节奏一变,后面一串事情都得跟着变。
开放原子开源基金会
过去的流程是软件先开发、再测试、再审计,最后交付,人点一下,机器走一步。如今模型能当场生成指令,Agent接过来就执行。
一件复杂活儿还可能被切成若干子任务,分给多个Agent并行处理。底层系统要扛的,就不只是“多开几个程序”,而是海量任务随时被创建、很快结束、走的路径还不完全确定。
硬件这一侧同样在变。AI训练和推理要吃掉大量算力、内存和加速卡,它们得放在一起协同,超节点因此慢慢成了主流设施。
可把多台机器连起来,跟把它们当成一台机器使,并不是一回事。后者要操作系统把内存、算力、数据传输统一管起来。
一边是Agent带来的新任务,一边是超节点带来的新硬件。
压力于是落到操作系统头上:模型成了新的“指令发出者”,Agent成了新的“任务执行者”,超节点成了新的硬件形态,过去围着单机和人工操作搭起来的基础软件体系,还跟得上吗?
openEuler社区委员会执行总监刘飞把话说得很白:“如果没有操作系统介入和改造、同步做优化,是实现不了的。所以一定需要操作系统来发力。”
openEuler这次升级,瞄准的就是这件事。
11月13日,openEuler发布openEuler 24.03 LTS SP5版本,同时宣布升级为面向Agentic Infra的操作系统,提供
说白了,一头是压低模型生成
当然,openEuler也没打算把答案简化成再做一个“
那么,大模型能“想”、Agent能“干活儿”之后,操作系统怎么追上来,openEuler能不能借Agentic Infra交出自己那份答案?
Agent从“说”到“做” 操作系统被推到执行现场
熊伟的判断是:“去年和今年是整个历史分水岭,不光是AI的分水岭,是整个人类历史上分水岭。”
在他看来,核心变化主要有两块:
第一块是模型能力变了。他认为,在
第二块是Agent把模型的输出变成了实际行动。大模型收进来、吐出去的仍是Token、字符串或向量值,好比人只有思想,思想不会自己变成动作。
把这些输出解析成具体任务并执行的,是Agent。模型说“发一封邮件”,Agent接着要定发给谁、发什么、什么时候发,最后调邮件系统把事办完。
所以熊伟认为,Agent本质上就是一个小程序,它真正改变世界的地方,在于把大脑和四肢的动作有机结合到了一起。
这个变化看着只是多了一层应用,实际却把操作系统推到了执行现场。
说到底,“会做事”和“会生成”对底层系统的要求并不一样。操作系统要面对的,不再是一次请求占多少资源,而是一整个执行过程怎么调度、怎么隔离、怎么保障安全。
最直接的压力来自速度。AI推理和Agent应用越来越多,执行环境的创建和调度也跟着吃紧。传统虚拟机可以长期跑着,启动慢一点通常还能忍;Agent任务却可能扎堆涌来,每个任务都要独立环境,有的几秒钟就结束了。
创建环境、调度任务如果吃掉大量时间和资源,模型算得再快,执行端照样可能掉队。Agent要想连续干活,光跑得快还不够,还得记住前面发生过什么。
熊伟举了个例子:先问天气、再问订票,天气很差的话,模型可能推荐车票而非飞机。这靠的就是上下文和记忆能力。前面的信息留不住,后面的任务就很难连贯执行。
其中,
这些能力看着像AI推理层的优化,可Agent要连续执行多步任务时,缓存和记忆就成了一种基础设施能力。每个Agent应用都自己重复造轮子,成本和体验都撑不住。
安全层面同样有麻烦。Agent一旦执行动作,就可能越权、出错,甚至造成危害。熊伟的看法是:大脑发出的指令有可能错乱,甚至有害,因此得把Agent的运行限制在一定程度之内。
而
这里有个容易被忽略的判断:沙箱不是Agent应用自己写规则就能搞定的事。允许运行什么、不允许运行什么,说到底要靠操作系统这一层的基础能力来控制。
上层任务在变,底层硬件也在变,超节点就是一个集中体现。
以前一个集群里摆着很多服务器,CPU、内存和加速卡各管各的。机器之间传数据,通常得走网络。AI任务的数据量一大,搬来搬去就可能把整个系统拖慢。
超节点的思路是把多台机器连得更紧,用起来更接近一台大机器。刘飞对此表示:“以前分布式只是大家协同,现在真的变成一台机器了。”
OpenAtom openEuler委员会执行总监刘飞
对操作系统而言,这不只是管的机器变多了,资源管理的方式也变了。过去主要是协调多台独立服务器,现在要尽量把她们的内存、算力和数据传输统一调度起来。
这里经常提到“
打个比方,城市里的仓库都挂上了统一门牌号,货怎么放、车怎么走、急件先送哪一单,还是得有人管。调度不到位,货照样绕远路,车照样堵在路上。
更麻烦的是,超节点不是“把机器连起来”这么简单。
熊伟表示:超节点有
因此,基于超节点这种新型硬件架构,可能得创造新的软件接口,也就是“
很多传统软件并不是为超节点设计的。通过兼容层,它们能跑起来,却未必跑得好。熊伟因此提出:“原则上,你的软件应该从设计开始就应该考虑超节点的架构。”
支持一款硬件,不等于现有软件都能用好这款硬件,这才是超节点生态真正难的地方。
不过,Agent也好,超节点也罢,都不意味着操作系统要推倒重来。熊伟说:“目前为止,所有的操作系统还是基于原先的能力进行持续演进。”
管理CPU、内存、存储和网络,控制进程和权限,这些基本工作并没有消失。变化在于:资源管理要从单机扩展到跨节点,任务调度要适应大量短生命周期的Agent,权限控制还得面对模型临时生成的指令。
从这个角度看,AI给操作系统带来的不是一场推倒重来的革命,而是职责的扩展:它不用变成Agent,也不必包办Agent的“大脑”和工作流程,但必须让Agent跑得起来、跑得快、跑得安全。
不急着造Agent OS 先把承重墙立起来
面对这些变化,openEuler没有先造一个“Agent OS”的大概念,而是选择从具体问题入手。
“先把问题弄清楚,别一上来就谈大框架、大故事、大概念。一个一个问题解决掉,最后会发现这栋楼的毛坯已经起来了,剩下就是拿业务和场景做精装修。”熊伟这样描述推进方式。
openEuler对Agentic Infra的界定同样克制:先把操作系统底座增强,再跟其他社区联手搭垂直方案,合起来构成AI运行需要的基础设施。
在熊伟看来,沙箱、KV Cache是当下撑得住场子的几根“柱子”,往后大模型路由这类新方案也可能被添进来,他把这些能力比作“柱子”和“承重墙”。
具体落到活儿上,openEuler抓的是两条线。
一条是接着把超节点OS能力做扎实,让多台机器的资源能被管起来。大会发布的信息显示,2025年openEuler推出了全球首个支持超节点的操作系统,眼下已有不止一家伙伴拿出了基于openEuler的超节点OS商业版本。
另一条是在超节点OS之上,把Agent跑起来所需的基础设施补全。这次发布的面向Agentic Infra的操作系统,涵盖沙箱、KV Cache、记忆系统和Agent安全等能力。
这些也正是此次发布的核心所在:往下能托住超节点,让跨节点的内存、算力与数据资源统一管理、协同调度;往上能撑起Agent运行,提供沙箱、KV Cache、记忆系统与Agent安全等关键能力。
站在客户角度,用Agent能力不必先换掉一整套超节点硬件,落地门槛因此降了下来;从生态看,不同伙伴也各有各的切入空间。
超节点OS与Agentic Infra的分工理清之后,问题就转到另一头:前面说的速度、安全、成本三道难题,这些能力打算怎么解?
拿沙箱来说,它最能说明技术落地远没有概念听起来那么轻巧。
安全是沙箱最先被指望的事,可熊伟不讳言它的“出身”:“沙箱不是一个新技术,它本身就是虚拟化,和我们传统的虚拟化,从本质上没有任何区别。”
它也不是天生就比虚拟机安全。熊伟说,“安全性两者基本等同,而是在于适应大模型发指令的速度。”
换句话说,openEuler要回答的不是“有没有隔离环境”,而是这个环境够不够轻、起得够不够快、能不能同时开出一大堆。
方向看着不模糊,真动手时头一道坎却是路线之争。刘飞回看这段摸索时说:“目前最大的坑是路线之争,沙箱的技术路线有好多个分支,到底用哪个?”
比如已有的
结果openEuler的选择是全都要支持。刘飞的理由是:“生态是包容、兼容、演进的,不是非黑即白。”这样不必替用户站队,可后面的活儿一点不轻松。
各种沙箱不仅都得跑得通,还要尽量跑得好,公共能力就应当尽可能沉到操作系统里。刘飞解释:“这些沙箱要做好,都依赖我们对文件系统的修改、内存管理的修改和优化,包括安全的优化。”只在上层管沙箱、不动操作系统,启动、并发和隔离很难一并兼顾。
openEuler技术委员会委员陈亚强也提到,看沙箱主要盯三个指标:“启动、并发和
围绕这些,openEuler在文件系统、内存管理和资源调度上做了一连串优化。刘飞用
再往上,靠内存压缩等手段改善冷启动、热启动和镜像恢复。到了超节点上,计算、内存、存储和网络还得放在一起协调。据披露,沙箱加速引擎能带来20%—30%的超分比收益,并且不挑某一种沙箱形态。
安全当然不能全交给Agent自己拿主意。
陈亚强说,若只在Agent Runtime层按用户意图做权限控制,可能被“破甲”之类的手法攻破。所以还得“在操作系统层面,先把权限的边界保护好”。
两层分工其实好懂:Agent自己琢磨“想做什么”,操作系统拍板“实际允许做什么”。就算模型判断出了岔子,也不该随随便便就拿到删文件、翻隐私数据的权限。
这挡不住模型幻觉。模型说错话,操作系统未必看得出来;可它要是因此要动危险操作,操作系统能多拦一道。
另一个棘手的是KV Cache,既要快,也要装得下。但高速的
“片上内存非常贵,而且不够。”刘飞说,“所以我们要做多级缓存:上面片上内存,中间
说到底,快的那层存储价格高,容量大的那层又偏慢。操作系统要干的活,就是让常用数据尽量待在快的层级,同时把更大的存储空间用起来,少让数据来回搬、白白等。
围绕这两项配合工作,社区仍在推进研究:
超节点这一侧,openEuler南向要解决两件事:一是把硬件在一定程度上弥合,保证
熊伟也把中间路线的代价摊开说了:生态不光是硬件能被支持,硬件这关其实不算最难,难的是真能用、用得顺。中间加一层软件隔离,老软件是能跑起来,可效果打折,性价比也不够。
要想真正把超节点用好,软件从设计阶段就得考虑新架构、新接口,否则硬件能力释放不出来,生态就停留在“能跑”而不是“好用”。
这些动作串起来看,openEuler没打算把Agent的“大脑”塞进操作系统,它盯的是另一件事:Agent跑起来的时候,脚下有没有趁手的执行环境,数据能不能少绕几道弯,权限能不能收得住。
技术有没有用 先看生产环境里的几笔账
基础设施技术讲得再复杂,最后都要接受生产环境的检验。
熊伟说,openEuler跟京东去年已经联手做创新,今年把核心场景摆上台面,一起搭超节点OS和KV Cache的核心能力。京东618广告、双十一已经有相当大的流量比例切到超节点上。
那么,为什么京东需要超节点?
互联网企业把时延看得极重,道理就在这儿:双十一抢购的时候,慢上几毫秒,用户兴许就划走了,时延每压掉一毫秒,都是实打实的利润。
实验的路子也实在:先在大促里接一部分流量,确认效果,再扩大使用范围。据京东现场介绍,相关实践实现了15%的时延降低。
放到行业里看,沙箱、KV Cache、记忆系统这些本事要是没法替客户省时延、降成本、提效率,Agentic Infra能不能立住就要打个问号,技术叙事讲得再漂亮也撑不住。
据悉,目前openEuler面向Agentic Infra的操作系统已经在互联网、金融等行业头部用户商用落地。
市场层面,openEuler系操作系统国内累计装机量预计突破2200万套,
显然,openEuler现如今已经不只是“一个新版本”,而是有了规模基础,超节点OS已经有了一批商用案例,Agentic Infra也开始进入生产环境,接下来更重要的是复制。
换一家客户、换一批硬件、换一个业务,方案还能不能顺利部署?收益能不能保持?长期运行是否稳定?这些都需要更多项目来回答。
毕竟,原有的装机量和市场份额能够提供基础,却不会自动转化为Agentic Infra的商业成功。
Agentic Infra从“技术发布”走到“产业成熟”,差的就是这最后一公里。开发布会,一场大会就够了;产业成熟,得靠一个个项目慢慢磨。京东15%的时延降低算得上有说服力的样本,可样本能不能长成可复制的模板,才是真正的考验。
谈到openEuler与其他开源操作系统的不同,熊伟也并没有强调某项独家技术:“技术上都是开源的,原则上没有不同。”
他认为更重要的是:“我们自己认为的不同我很清晰,就是耐力,就是持续不断投入。”
这话搁在眼下挺贴切。Agent和超节点带来的麻烦,起个新名词解决不了,得一个项目一个项目去磨,也离不开芯片厂商、操作系统厂商、云厂商和行业客户长期搭手。
对openEuler来说,现在最重要的不是把“Agent OS”讲得多大,而是让更多业务在真实环境里跑得更快、更稳、更便宜。
这些案例能被反复复制,Agentic Infra 才算真正走完从技术发布到产业成熟这一段路。