昇腾办Jev决策模型适配调优赛:100+模型池,35个获奖名额
Jev 开源决策类模型正在快速走出实验室,这类开源模型已经超过一百个,从 0.4B 的小模型到 35B 的 MoE,决策专用、视觉决策、多模态,品类齐全。对这类模型能在 NPU 上,「跑得对」和「跑得通」,也是我们办赛目标。所以昇腾联合 AtomGit 社区决定办一场 JEV 决策模型适配、调优赛,旨在缩短从“开源模型
Jev 开源决策类模型正加速走出实验室。目前这类开源模型数量已超过一百个,覆盖 0.4B 的小模型到 35B 的 MoE,决策专用、视觉决策、多模态等品类都有。让这些模型在 NPU 上「跑得对」和「跑得通」,正是这次办赛的目标。
为此,昇腾联手 AtomGit 社区发起 JEV 决策模型适配、调优赛,想把从“开源模型”到“昇腾 NPU 高效运行”的路缩短。参赛者可以从 100+ 模型池里自由认领模型,把「在昇腾 NPU 上无错运行」到「超越基线性能」的完整流程走通。主办方也向开发者发出邀请,一起建设 Jev 模型开源生态。
赛事链接:https://competition.gitcode.com/competition/2119684851993116674/intro
两条赛道,做的是两件不同的事
跑通和跑快,本来就是两回事。主办方因此把它们拆成两条各自独立的赛道。
赛道一:模型部署适配——先让它跑起来,而且结果得对。 🚀
从池子里挑一个模型,用 vLLM-Ascend 完成部署,把完整决策路径跑通,精度达标即算通过。先证明它能跑,再谈能跑多快。
为什么精度要放在前面卡?决策模型输出的不是一句聊天,而是一个具体的决定。同一个状态,差一个 token,落到动作上可能就是相反的两个。所以这一关先求对,再求快。
适配池里放着 100+ 个已经开源的 JEV 决策模型:
其中任意一个都可以认领,把它完整部署到昇腾 NPU 上,跑通完整决策路径即可。
赛道二:性能调优——在已经能跑的前提下,让它更快。 ⚡
这一赛道基于主办方指定的 10 个模型,到手就是能跑的基线,参赛者直接从调优起步。在保证精度达标的前提下,跟基线比吞吐、延迟等模型性能指标,往更高处推。十个模型赛题,各设第一名到第三名。
赛事时间安排 🧠
11 月 10 日,报名开启。
报完名,这三件事可以提前做:
熟悉 vLLM-Ascend 的部署流程 提前下载目标模型权重 在 AtomGit 平台的 Model Agent 上验证 NPU 环境
报名期不消耗开发时间。准备工作做在前面,启动开发时会更从容,他有可能决定最后的结果哦!
你能带走什么 🏆
两条赛道合计 35 个获奖名额,奖品总价值 23 万元。
适配赛道:奖品合计价值 2 万元
调优赛道(本次重点):奖品合计价值 21 万元
这次大赛到底在考什么 🧠
昇腾 NPU、vLLM-Ascend 和昇腾 Model Agent,合起来构成这次比赛的技术底座。
大模型推理跑在昇腾上,用的就是 vLLM-Ascend 这套推理栈,部署环节也走它;至于 NPU 环境能不能验证通过、权重怎么下载、整条链路怎么跑通,交给昇腾的 Model Agent 来办。两样东西配合,环境验证到跑通都在同一条线上完成。
题目要考的能力,落点很明确:推理部署得做到「无错」,推理性能得做到「更快」。所以参赛者干的不是纸上谈兵的活,而是把一个真实开源模型从「跑不起来」一步步推到「跑得快」。这份经验拿到别的模型、别的业务上,同样用得上。
结语
身边要是有人对「模型调优、部署适配」这类比赛有兴趣,可以把这场赛事转给他。
老手也好,新手也好,都有得选。精通 vLLM 等推理框架的资深技术人固然能找到对口赛道,没碰过昇腾模型部署的初学者同样有合适的赛道可报。昇腾硬件环境和 Model Agent 模型工具,主办方都已经备下,上手门槛不高。