昇腾联合SGLang办上海Meetup:25人通过实操验收,最快1.5小时通关
聚力开源 共话推理生态|昇腾 × SGLang Meetup 圆满举办
2026年11月14日,昇腾与SGLang开源社区联手打造的昇腾开源软件极客营Meetup·上海SGLang专场,在上海粤海万怡酒店办了下来。SGLang社区核心贡献者、产业合作伙伴以及大批开发者到场,大家围着SGLang最新技术演进、昇腾AI基础软硬件平台适配与性能优化、产业实践、生态协同几个方向聊得很深。
![[MD:Title]](/media/news/2026/20261119/mavecg_01.webp?s=5a2582d546c0fdca3e13&v=2)
聚焦实践:主流模型昇腾硬件部署与调优
大模型推理要往前走,光靠框架层创新不够,硬件平台适配、性能优化、工程实践这些活儿得长期攒。上午的Meetup就安排了实操,盯的是业界主流模型Qwen3.8-27B、DeepSeek-V4-Flash(W8A8)、GLM-5.2(W4A8)在昇腾上的部署、推理测试和性能调优。
现场按任务分了不同主题桌次,走赛制,通关名额有限,先过先拿奖。可以组队闯关,昇腾技术专家就在旁边现场指导。实操下来,开发者既亲眼看到SGLang在昇腾上跑得怎么样,也把过程中碰到的技术问题拿出来充分交流讨论。时间有限,现场共有25位学员通过实操验收;通关最快的那位1.5小时就完成现场验收并提交了总结PR,还有1位学员做了2次现场验收、提交总结PR。
![[MD:Title]](/media/news/2026/20261119/mavecg_02.webp?s=962140c458e36e11dd45&v=2)
聚焦技术:五大专题分享,深入探讨 SGLang 与昇腾协同演进
下午的专题分享环节,讲师来自开源社区、昇腾技术团队和产业合作伙伴,各自从框架架构、技术规划、核心优化、实际部署等角度讲。分享里既有SGLang与昇腾生态协同发展的技术探索,也给社区开发者和产业伙伴留出了现场交流、一起学习的机会。
![[MD:Title]](/media/news/2026/20261119/mavecg_03.webp?s=76585e60642f9c52d486&v=2)
SGLang 最新架构和 Roadmap:洞察开源推理框架的技术演进
SGLang开源社区核心开发者张晓雨带来《SGLang 最新架构和 Roadmap》分享。他先整体讲了SGLang推理引擎社区眼下怎么运作,再顺着“一个请求落到硬件”的过程把架构设计一层层拆开,最后介绍SGLang Q4 Roadmap。
![[MD:Title]](/media/news/2026/20261119/mavecg_04.webp?s=ca93826646ef5af2e214&v=2)
张晓雨 《SGLang 最新架构和 Roadmap》
昇腾 SGLang 关键竞争力规划:持续推进软硬件协同优化
华为昇腾技术专家周逸文带来《昇腾 SGLang 关键竞争力规划》分享。他结合昇腾AI基础软硬件平台的技术特点和大模型推理的发展需求,从昇腾超节点代际演进、统一总线编程模型、对外提供语义一致接口的SGL-Kernel-NPU这三个方面,讲了昇腾SGLang在核心能力建设、性能优化、功能适配、生态发展上的规划与思考,也说明了靠软硬件协同优化、开源社区协作和持续技术迭代来提升SGLang在昇腾上综合竞争力的相关方向。
![[MD:Title]](/media/news/2026/20261119/mavecg_05.webp?s=c640088bf3b934d8e1a8&v=2)
周逸文 《昇腾 SGLang 关键竞争力规划》
昇腾 SGLang + Mooncake KV Cache 社区发布:探索推理性能提升新空间
第三场分享是华为昇腾技术专家张景芳带来的《昇腾 SGLang + Mooncake KV Cache社区发布》。议题深入讲了基于昇腾超节点场景打造的内存池化软件MemFabric的三大关键能力:百TB级到PB级内存逻辑统一编址、简单的xcopy北向接口、南向灵活的扩展能力,让使用超节点就像使用单节点做统一内存访问。他还介绍了如何深度结合MoonCake,在GLM 5.2/5.3 1M长序列场景拿到吞吐1.x倍收益、Prefix Cache带宽利用率提升1倍、多实例Engram共享节省显存等不同场景的优化案例。
![[MD:Title]](/media/news/2026/20261119/mavecg_06.webp?s=e0e1cc925dc346fdadbc&v=2)
张景芳 《昇腾 SGLang + Mooncake KV Cache 社区发布》
SGLang 在 Atlas 800T A2 优化实践:从长程任务需求到软硬协同落地
产业实践分享环节,中国电信人工智能公司PaaS平台技术总监李立彪带来《SGLang 在 Atlas 800T A2 上的优化实践》。他讲到项目面临三大现实约束:长程任务爆发、大量A2设备从训练转战推理、生产主流方案在超长上下文下难以兼顾高并发与低TTFT,研发团队据此分析,确定了统一至SGLang+Mooncake Cache的破局方案。李立彪介绍了团队由内到外的实践路径:先做适配,保证内核以较理想效率运行;再针对性叠加引擎优化特性、挖掘高阶能力,用来发掘Atlas 800T A2机器的潜力;最后给出经初步适配优化后单机并发能力提升两倍、TTFT降低近16%的数据,印证了这套方案的优势。
![[MD:Title]](/media/news/2026/20261119/mavecg_07.webp?s=c4a8dc7ced7a52db1a9d&v=2)
李立彪 《SGLang 在 Atlas 800T A2 优化实践》
Dots NPU 推理部署实践:推动技术能力走向真实业务场景
最后一场,小红书的Dots Infra NPU负责人星海带来《Dots NPU 推理部署实践》。议题围绕Note结构设计、推理框架设计、量化、KV Cache系统等不同方面的实践方案展开,并结合数据展示了Dots团队在NPU推理部署真实业务场景中的探索与经验,末尾还展示了以Cost Model驱动联合调度的后续方案展望。
![[MD:Title]](/media/news/2026/20261119/mavecg_08.webp?s=de4fb49196bad43f0565&v=2)
星海 《Dots NPU 推理部署实践》
聚力生态:以开源协作推动技术创新与产业落地
开源生态要持续发展,社区贡献者、硬件平台、产业伙伴和广大开发者谁都少不了。这次Meetup既是一场技术交流,也是一次面向开源推理生态的协同实践。
上午动手实操、下午专题分享,参会者从技术原理、工程实践、产业应用等不同维度,了解了SGLang在昇腾AI基础软硬件平台上的技术进展与应用探索。
接下来,昇腾会继续和SGLang开源社区、产业伙伴站在一起,秉持开放协作的思路,把SGLang在昇腾上的适配与优化往深里做,也更深地参与社区建设,让更多技术成果变成能落地、可复用的工程实践。
同时也盼着更多开发者、生态伙伴加入进来,一起去摸索大模型推理技术的新方向,把开源推理生态做得更开放、更热闹。
昇腾与SGLang,让开源创新和算力生态一块往前走。
想报名的,去搜【昇腾社区官网】,在导航栏点【活动>任务广场】,任务分类里选【业界开源社区】,就能参加社区任务报名,完成验收后还有百万奖金。