教育场景的云端算力怎么租？按课时选型与限流注意点

上课的时候最怕两件事：一是学生一起点提交，接口排队卡住，课上到一半等结果；二是课时结束算账，发现租的卡大部分时间在空转。教育场景跟生产环境不一样，它有固定时段、突增并发、成组学生和明确的上下课边界。这篇不聊硬件参数，只讲怎么把一节课的需求翻译成租卡规格、租用方式和限流兜底。

上课的时候最怕两件事：一是学生一起点提交，接口排队卡住，课上到一半等结果；二是课时结束算账，发现租的卡大部分时间在空转。教育场景跟生产环境不一样，它有固定时段、突增并发、成组学生和明确的上下课边界。所以别拿生产环境那套常驻服务的思路去租，先按课时把需求拆清楚。

这篇不聊硬件参数，只讲怎么把一节课的需求翻译成租卡规格、租用方式和限流兜底。核心思路三句话：并发决定规格，任务类型决定显存敏感度，排课周期决定租用形态。下面按这四步走一遍。

先把一节课翻成算力需求：三个量决定规格

很多人选卡先看模型多大，这是反的。教学场景里第一约束是峰值并发，也就是同一秒钟有多少请求打进来。一个班几十人同时点「提交」，和你一个人慢慢测，完全是两回事。先把这三个量量出来，再去对照规格，才不会买错。

• 班级人数乘以每人同时提交的请求数，得到峰值并发，这是选卡第一约束，不是模型大小；
• 任务类型决定单次耗时：出图、语音转写、跑代码作业对显存和算力的敏感点完全不同；
• 单节课时长乘以每周课时数决定租用周期，短时高频优先按小时或按次，长周期再考虑包周包月；
• 单价和当期系数不要靠记忆，到 /compute/gpu-rental 和 /compute/price-index 核对当时的数字。

租哪种：按量、按小时还是整台包段

同样是租算力，三种形态对应的课堂完全不同。按量调用省心，但高峰期撞上限流只能排队；按小时租卡灵活，适合有固定机房时段的课，但关机不彻底照样计费；整台包段适合一学期固定排课，签之前一定要问清节假日和调课能不能退或顺延。

• 按量调用适合任务轻、并发低、不想管运维的课，缺点是高峰期撞上限流只能排队；
• 按小时租卡适合有固定机房时段、要跑自建模型或批量作业的课，注意关机不彻底照样计费；
• 整台包段适合一学期固定排课的课程，签之前先确认节假日、调课能不能退或顺延；
• 形态之间的口径对照，到 /compute/platforms 与 /compute/tco 按当时的说明核对。

什么情况下这套不适用：如果课程已经要求必须用某个自建框架或特定部署方式，那先确认平台支不支持，再谈租用形态，否则选得再便宜也用不起来。

限流这事要提前设计，别等上课才发现

限流不是故障，是额度或并发到了边界。课堂最忌讳的是全员一起超时，然后学生反复点提交把额度打满。正确做法是把并发闸门设在班级峰值以下，让请求分批放行，再配合排队提示和重试退避。下面这套顺序建议开课前就定好。

1. 设并发闸门把同时处理的请求数压在班级峰值以下，多余请求排队而不是直接拒绝，观察每批放行的耗时。
2. 加排队与退避学生端显示排队中，重试用逐步拉长的间隔，避免同一份作业被反复提交。
3. 准备降级方案高峰期切到更小的模型或读本地缓存结果，保证课能继续上，课后补算。
4. 留证据把限流发生的时段、请求量、错误码记下来，复课时用来调闸门参数。

判断到底是限流、额度还是降级，现象不一样：前者通常有明确的错误码和排队，额度是到了总量上限直接拒绝，降级则是返回变慢或结果变简。具体排查顺序参考 /throttle-vs-quota-vs-degrade 和 /429-concurrency-backoff。

开课前一天照着过一遍的清单

前面都是设计，这一步是执行。开课前一天按真实班级规模压一次，比开课后临时救火省事得多。清单不长，但每一项都要有人签字确认，尤其是下课即停这步，空了整晚的卡都是白花的。

• 用真实班级规模做一次压测，记录首字延迟和全部返回的耗时，别用单人测试估；
• 确认账号额度、并发上限、超时设置三项是否和排课表对得上，缺一项就补；
• 约定下课即停：把实例关机、批量任务收尾、额度告警放进当天流程，避免夜间空转；
• 测速基线先跑一遍 /tools/speed-test，把当天数字和压测结果存一份；
• 验收口径和留证方式参考 /buy-checklist 与 /usage-log-fields，别只看老师主观感受。

什么情况下清单可以简化：单次实验课、人数很少、任务很轻时，可以只做压测和下课停机两项。但只要涉及成班排课和批量作业，五项都别省，出事往往就出在额度或超时那一项上。