华为算力落地医院与无人配送:384张昇腾910C超节点在杭州投用
需求各异
杭州桐坞村,一辆无人配送车停稳后,车厢底板缓缓降下,载着货物的机器狗从车里驶出,接着跑完最后一段路。
这个村子以茶产业为主。以前村民搬米面粮油这类重物挺费劲,商户补货也得搭上人力。现在行深智能在这里试水无人车加机器狗的接力配送。
动作看着简单,背后靠的是大量计算。车辆要实时辨认路况,云端还要训练模型、迭代算法,这些都离不开算力。
华为云就是该项目的合作方之一。
11月9日至11日,华尔街见闻·全天候科技走访了浙江移动杭州智算中心、行深智能以及浙江中控信息产业股份有限公司(下称“中控信息”)等企业,实地了解国产算力在各产业场景的部署与使用情况。
走到产业一线就能发现,不同客户对算力的要求已经拉开差距。计算规模、部署方式、推理效率、供应稳定性,各场景的算力需求正越分越细,华为的产品与技术适配能力也因此面对新的考验。
另一边,工业现场的大量设备跑着不同的操作系统、用着不同的通信协议,数据流通和设备协同仍有卡点。AI越深入生产流程,底层系统之间的互联互通就越成为产业智能化的硬需求。
从昇腾算力到开源鸿蒙,华为多年攒下的计算、通信和操作系统技术,正在产业现场拿到更多用武之地,同时也要接受检验。
各有痛点
AI应用铺进更多产业场景后,客户对算力的需求明显分化。要扛大模型训练和推理的智算中心,扩计算规模仍是重点;可到了医院、自动驾驶这类具体场景,客户还得盘算本地部署、推理效率和算力供应稳不稳。
需求一分开,算力厂商就没办法只靠多插计算卡来交差。
数据中心是个例子。浙江移动杭州智算中心上了一套超节点,搭载384张昇腾910C计算卡,由12个计算柜和4个总线设备柜构成,FP16算力288 PFLOPS,靠华为自研的灵衢总线做高速互联。
大模型训练和推理的需求往上走,计算集群的规模也跟着扩。可计算卡加得多,效率未必跟着涨。芯片之间的数据传输、通信延迟、资源调度,都会拖住整个系统的表现。
华为的办法是用超节点架构,把数百张计算卡拢成一个统一系统,压掉大规模计算中的通信开销,让整体运行效率提上来。
但智算中心那种拼规模的思路,放到产业客户身上并不成立。
在浙江省人民医院,杭州全诊医学与华为联手打造的AI应用,已经融入医生的日常工作。医生查房时佩戴随身麦克风,把医患之间的对话录下来,系统再结合患者已有的病历和检查资料,辅助生成查房记录等医疗文书,最后由医生审核、修改。到今年上半年,这套应用累计生成的医疗文本已超过10万份,涉及40多个科室。
医院要保护数据,往往得把AI系统部署在院内。可医院能拿出的计算资源有限,医生对模型响应速度的要求又高。
全诊医学CFO潘守翔对全天候科技等媒体说,医疗场景很看重模型的响应速度,医生问诊时等不起参数规模庞大的模型出结果。他判断,参数超过100B的大模型,在部分实时问诊场景里很难直接满足需求。
医院用AI还有明显的忙闲差。每天上午9点至11点,门诊、住院业务集中,AI调用需求大;到了晚上,部分计算资源又可能闲着。
算力有限,需求又摆在那,全诊医学的做法是模型压缩、端侧专精模型以及大小模型协同,把模型运行所需的计算资源压下来。语音转写、信息提取、病历生成这些任务对模型能力的要求各不相同,按任务匹配不同规模的模型,省掉不必要的大模型推理开销。
还有一类产业客户,最看重的是算力能不能持续稳定地供上。
杭州桐坞村,行深智能正与华为云、浙江省智能网联汽车创新中心合作,摸索无人车和机器人的接力配送。乡村道路窄、路面不平,路边停车也不规整,还可能冷不丁窜出小狗之类的动物。自动驾驶系统得靠不断积累数据、训练模型,才能把这些长尾问题一个个啃下来。
行深智能创始人、首席科学家安向京对全天候科技说,华为云给的训练和推理服务器,让公司能把车辆跑路时碰上的问题收进数据闭环,再借世界模型仿真把训练场景铺开,算法得以持续打磨。
这类研发离不开反复调用云端算力。车在桐坞运村跑得顺,换到别的道路环境,照样会撞上以前没处理过的情况,训练和验证还得接着做。
挑云服务伙伴时,安向京看的不只是算力强弱。
“第一个就是自主可控,这个是非常重要的。第二个是稳定供货,也是非常重要的。”安向京说,眼下算力能不能稳定供上,仍是个难题。
各产业场景对算力规模、部署方式、使用效率的要求并不一样,华为的算力供给也因此从大集群往更多样的产业需求上铺。
同一种语言
算力进了更多产业场景之后,企业碰到的技术麻烦也不再只是怎么配计算资源。
工业领域尤其明显:算力和模型就算都备齐,AI也未必能直接下场干活。
传感器、控制器、生产设备往往来自不同厂商,操作系统和通信协议各走各的,数据散落在各自系统里,设备之间很难配合起来。
想让AI真正进到生产流程里,产业端得有一套技术底座,把不同设备连起来,统一通信和控制方式,模型才拿得到现场数据,进而调用设备把活干完。
中控信息就是例子。这家公司长期做城市基础设施的自动化和智能化,在智慧交通、水务、建筑园区等项目里,经常要把不同厂商的传感器、控制器和软件系统接到一起。
中控信息高级副总裁、浙江开鸿智控数字科技有限公司总经理姜雪明对全天候科技说,以前做城市基础设施项目,设备的内核和通信协议各不相同,彼此之间“说着不同的语言”。
接入的设备越来越多,系统集成商不光要一个个做接口适配,后续的数据交换、设备管理也得管,项目开发和维护的成本就上去了。
中控信息的办法是在开源鸿蒙上开发工业控制系统,再通过旗下专业公司把产品推出去。
开源鸿蒙的基础代码由华为捐赠,眼下由开放原子开源基金会孵化,行业企业一起参与建设。中控信息把自己在工业自动化上的积累搬过来,围绕开源鸿蒙做控制系统和设备管理平台,目标就是让不同厂商的设备跑在同一套技术体系里。
不过,工业设备做鸿蒙化改造,不是换个操作系统那么简单。
工业控制系统对实时性、确定性和可靠性的要求,比消费电子产品高得多。
姜雪明说,手机死机了重启一下就行,受影响的不过是体验;工业场景不一样,系统一重启,质量、安全、原材料都会跟着受损。
所以中控信息得围着传感器、控制器、网关和上层软件做适配,让开源鸿蒙扛得住不同工业设备的运行和控制要求。
现在,中控信息已经搭出由开源鸿蒙控制系统、超级设备管理平台和行业应用组成的产品体系。
其中,统一操作系统给不同设备提供基础运行环境,分布式软总线让设备能自动发现、自动通信,设备模型则用来描述各类设备有哪些功能、上层软件怎么识别和调用它们。
靠这套技术体系,以前要分开适配的设备有机会跨系统协同,开发人员也不用一遍遍写接口。
设备之间能不能互通,还关系到AI能拿到多少生产数据。
姜雪明拿工业现场常见的水泵和阀门举例。以前这类设备可能只往管理平台传个开关信号,传感器、控制器和系统改造之后,平台还能拿到故障状态、轴温等运行参数。
数据细了,AI就能分析设备运行情况、找出潜在故障,进一步做预测性维护。
与此同时,部分项目的交付效率也因统一技术底座而得到改善。
姜雪明介绍,一些运维项目中的设备调试工作,过去要花一周,现在大约两个小时就能完成。
在走访现场,姜雪明还展示了基于开源鸿蒙的设备交互能力:用鸿蒙手机碰一下设备,就能调出对应功能,控制照明,或者读取温湿度、空气质量等环境数据,不需要再单独安装应用。
不过姜雪明也坦言,这种交互眼下主要依托鸿蒙手机。对其他终端,中控信息还在尝试用云服务和小程序来提供相应能力。
但工业设备要真正做到广泛互通,挑战仍然不少。
工业设备使用周期长,传统企业已经部署了大量不同年代、不同厂商的生产设备,短时间内全部换掉并不现实。另外,水务、轨道交通这类公共基础设施领域,对操作系统的安全性和稳定性要求更严。
目前中控信息的开源鸿蒙相关产品已在建筑园区等场景落地,也在与水务行业客户合作。轨道交通方面,城轨鸿蒙的标准制定、产品研发和应用示范还在推进,尚未进入大规模复制阶段。
开源鸿蒙要产业化,技术本身得逐步成熟,也离不开设备厂商一起做适配、推动行业标准统一,并在实际项目中检验系统可靠性。
整体来看,AI从数据中心走向产业一线后,不同场景对算力性能、部署方式和稳定性的要求越来越分化,设备与系统之间的互联互通也随之成为新的技术需求。
对华为来说,一边是用昇腾、华为云等满足不同产业客户的算力需求,另一边是依托开源鸿蒙生态,让更多设备和系统“说同一种语言”。两条路径一起推进,有望降低AI进入传统产业的技术门槛,推动更多应用从单点试验走向规模化落地。