阿里云摘中国专利金奖:超大规模智能算力调度如何破题
11月6日,第二十六届中国专利奖颁奖大会在无锡举行,阿里云提交的专利"一种用户请求的处理方法和装置"荣获中国专利金奖,这也是本届唯一云厂商荣获金奖。该专利技术可动态实时感知算力需求变化,尤其针对互联网和AI时代剧烈的需求潮汐,实现了超大规模智能算力的按需分配、随需伸缩、安全供给——高峰时撑得住,低谷时收得回,多租户安全
11月6日,第二十六届中国专利奖颁奖大会在无锡召开。阿里云申报的“一种用户请求的处理方法和装置”拿下中国专利金奖,本届云厂商中仅此一家获此奖项。该专利能实时动态捕捉算力需求的变化,对互联网和AI时代起伏剧烈的需求潮汐尤其有效,让超大规模智能算力做到按需分配、随需伸缩、安全供给:高峰时扛得住,低谷时收得回,多租户之间安全隔离。
中国专利奖由世界知识产权组织与国家知识产权局联合评选,是国内专利领域的最高荣誉,每届发明专利金奖不超过30项,被视为对企业创新能力与专利产业化价值的国家级权威认定。阿里云目前已在全球十多个国家和地区布局超万件专利,重点落在云计算、人工智能、大模型和芯片等核心技术方向。
超大规模智能算力调度,AI时代有三道坎
AI时代的超大规模智能算力集群,要应对的是需求潮汐的剧烈起伏:突发流量、训练高峰、推理洪峰交叠在一起,算力弹性的极限被反复试探。峰谷之间,算力需求能差出百倍——照峰值配置,平时大量资源闲着;照日常配置,峰值一来又容量吃紧、服务失稳。异构算力如何弹性统一、动态负载如何瞬时响应、多租户环境下如何安全隔离,就成了AI时代超大规模算力的三大核心难题。
这项专利的核心发明,是一套全新的用户请求处理方式。过去的老办法是先分配资源、再被动等请求上门,资源配置和真实负载长期对不上;新方法则能动态实时感知需求变化,把请求与底层异构算力智能匹配,让每一次请求都得到及时、合适的算力响应。
具体看,系统在用户请求与海量算力之间实时感知业务负载的波动,把算力动态调配到最需要的地方。业务高峰自动扩容,低谷自动收缩,算力像“水电”一样按需供给、随取随用,每一份资源都用在刀刃上。弹性预热策略加上调度效率提升,秒级应用启动、毫秒级大模型推理响应都成了现实。同时,各应用的数据在相互独立的运行环境中处理和存储,彼此隔离、互不干扰,资源利用效率上去的同时,数据安全也有了一道端到端的防护屏障。
弹性算力,正更高效地服务AI时代的千行百业
依靠弹性算力调度等技术积累,阿里云已持续孵化出覆盖通用计算、模型训推和智能体运行的一系列产品,陆续推出灵骏真武超节点实例、智能体沙箱 Agent Sandbox、容器服务 AI 推理套件 AI Serving Stack、分布式缓存Fluid 等,在AI时代的千行百业中已大量应用。
举个例子,MiniMax 基于阿里云 Agent Sandbox 在10秒内拉起五千个沙箱,总拥有成本降低25%;月之暗面 Kimi 做到每分钟数万个沙箱弹性扩容,启动时间缩短 50%,靠弹性供给支撑业务稳定响应;阶跃星辰结合 Agent Sandbox 与 阿里云ACK,百万级别沙箱稳定运行,模型评估周期从周级压缩至天级。前程无忧AI招聘助手通过 Agent Sandbox 与分级休眠承接万级脉冲请求,支持会话数据恢复;金山办公基于 Agent Sandbox 与阿里云云原生基础设施,用预热池实现毫秒级获取沙箱,再结合潮汐调度与多集群容灾,体验、成本和服务连续性都照顾到了。
阿里云容器与沙箱研发负责人、专利发明人易立说:“云计算现在跟电力、水利一样,都是关键生产力。从移动互联网到AI时代,阿里云一直盯着的就是三件事:负载变化能不能实时感知、异构算力能不能统一调度、多租户环境下能不能安全隔离。算力要按需流动、精准匹配,大模型训练推理和智能体运行的门槛才能降下来,智能应用也才谈得上规模化落地。”