WizardLM 2 8x22B (Deep Infra)

MODEL PROFILE模型资料

Eden AI · 2024-04-15 发布 · 开源权重 · 1 家平台收录

资料长期未更新 返回厂商

WizardLM 2 8x22B 是 WizardLM 系列的开源权重指令模型,经 Eden AI 以 Deep Infra 为底座提供 API 调用,面向需要 64K 长上下文、多语文本生成与指令跟随能力,同时又希望保留自托管选项的开发团队。

模型介绍

WizardLM 2 8x22B 属于 WizardLM 2 系列,2024 年 4 月发布并开放权重,定位是通用指令跟随与对话生成。它要解决的是长输入场景下的文本理解与产出问题:65536 tokens 的上下文窗口足以容纳多页文档或多轮对话历史,单次最多输出 8000 tokens,适合摘要、改写、问答这类以文本为主的工作流。模型支持推理与温度调节,可以通过采样参数在稳定抽取与多样生成之间切换。本站记录到的托管入口只有 Eden AI 一家(底层为 Deep Infra),价格口径为输入输出同价,缓存读取另计。需要注意,本站未收录该模型的第三方跑分,能力判断只能停留在定性层面,实际选型建议以自己的任务集实测为准,而不是依赖榜单印象。

选型建议需要长上下文、长输出且预算敏感的文本任务可以选它;要求强推理、多模态或稳定公开跑分背书的场景则不建议作为首选。

WizardLM 2开源权重MoE 架构长上下文文本生成指令微调

关键指标

官方输入价$0.48/M
官方输出价$0.48/M
缓存读 / 写$0.62/M / —
上下文窗口65.5K
最大输出8K
输入模态文本
部署平台数1 家
最后更新2024-04-15

适用场景

  • 对多页报告或长文档做分段摘要与要点抽取
  • 搭建多轮客服或知识库问答的对话接口
  • 批量改写营销与产品文案并保持指令一致性
  • 借助温度参数调节多样性,生成创意初稿
  • 自托管开源权重,做数据不出域的私有部署

暂无:知识截止、模型家族、许可证、参数规模、缓存写价、工具调用、结构化输出、附件(上游未公开,本站不估算)。 资料已 940 天没更新,规格与价格可能已变;发布 940 天。

规格与能力

上面没列到的字段

WizardLM 2 8x22B 建立在稀疏混合专家(MoE)底座之上,经指令微调对齐对话与任务执行,属于典型的开源权重纯文本模型。

  • 结构采用 MoE 稀疏激活,推理时只调用部分专家,单位算力承载的容量高于同规模稠密模型;具体专家数量与训练配比公开资料较少。
  • 能力支持推理与温度调节,可调采样随机性,适配从确定性信息抽取到创意写作的不同任务强度。
  • 披露权重开放,团队可自行托管;本站记录的调用入口为 Eden AI(底层 Deep Infra),架构细节仍以官方模型卡为准。
开源权重
是
能力 推理温度调节

同系列其他规格

型号厂商参数上下文输入价输出价
WizardLM 2 8x22B microsoft — 65.5K $0.493/M $0.493/M

性能表现

本站未收录该模型的第三方跑分,性能只能结合架构定位做定性判断,真实表现需以自己的任务集验证。

  • 强项64K 上下文配合指令微调,处理长文档问答、多轮对话与结构化改写相对稳,多语文本生成可用。
  • 短板单次输出上限 8000 tokens,长文一次成稿受限;缺少公开跑分佐证,复杂推理与代码任务不宜默认领先。
  • 适合中等复杂度文本生成、摘要与翻译类任务;对强推理有硬要求的场景,建议并行测试更新的模型再决定。

价格与性价比

结合各平台报价与同类对比

本站记录的官方价格为输入 $0.48/百万 tokens、输出 $0.48/百万 tokens,输入输出同价,结构上更偏向输出较长的任务。

  • 定位输入输出对称计价,长输出任务不会被额外加价,适合摘要、改写、批量生成类负载的成本预估。
  • 横向对比较 Nano Banana Pro 的 $2/$12 明显更低;较小参数的 Llama 3.2 系列与 Mistral Small 3 更贵,处在中等价位。
  • 平台差价Requesty 报 $0.62/百万 tokens,较 models.dev 与 edenai 的 $0.48 高约 29%,调用前先比价。
  • 省钱缓存读标价 $0.62/百万 tokens 高于普通输入价,重复前缀场景未必省钱,需实测账单再决定是否依赖缓存。

平台报价对比

3 个来源口径
WizardLM 2 8x22B (Deep Infra) 在各来源的输入 / 输出价格(美元 / 百万 tokens)
来源输入价输出价缓存读相对输入价
models.dev $0.48/M$0.48/M—0.0%
models.dev · edenai $0.48/M$0.48/M—0.0%
Requesty $0.62/M$0.62/M$0.62/M+29.2%

同一个模型在不同网关的报价可能不同。本页基准取官方口径 $0.48/M / $0.48/M(输入 / 输出,美元 / 百万 tokens),其余来源的差价在「相对输入价」列列出,供比价参考。

同类模型对比

5 条
WizardLM 2 8x22B (Deep Infra) 的同类模型对比
模型上下文输入价输出价输入价差AA 综合
Nano Banana Pro (Vertex AI) 65.5K$2/M $12/M+316.7%—
Llama 3.2 1B Instruct (Cloudflare) 60K$0.027/M $0.201/M-94.4%—
Llama 3.2 3B Instruct (Cloudflare) 80K$0.0509/M $0.335/M-89.4%—
Nano Banana (Vertex AI) 32.8K$0.3/M $2.5/M-37.5%—
Mistral Small 3 (Deep Infra) 32.8K$0.05/M $0.08/M-89.6%—

取上下文相近(约 0.5~2 倍)的同类主流模型;同厂商、同家族优先;价格差为相对本模型的输入价

关于 WizardLM 2 8x22B (Deep Infra) 的常见问题

5 条
WizardLM 2 8x22B (Deep Infra) 的 API 价格是多少?

当前收录的官方口径价格为输入 $0.48/M、输出 $0.48/M、缓存读 $0.62/M,单位为美元 / 百万 tokens。不同网关可能有自己的加价与折扣,实际计费以调用平台为准。

WizardLM 2 8x22B (Deep Infra) 支持多长的上下文?

资料显示上下文窗口 65.5K(65,536 tokens),单次最大输出 8K。实际可用长度还取决于调用平台的限制。

WizardLM 2 8x22B (Deep Infra) 是开源模型吗?

WizardLM 2 8x22B (Deep Infra) 提供开源权重,可以自行下载部署。本站展示的价格是各托管平台对 API 调用的报价,自部署不计入。

WizardLM 2 8x22B (Deep Infra) 支持哪些能力?

按当前资料,WizardLM 2 8x22B (Deep Infra) 支持推理、温度调节。输入输出模态为 文本。

WizardLM 2 8x22B (Deep Infra) 可以在哪些平台调用?

当前资料显示该模型被 1 家 provider 或网关收录。本站核对的数据来源包括 models.dev、Requesty。收录数量只反映公开目录的部署面,不代表任何一家平台的服务质量。

使用注意

  • 口径本站未收录公开跑分,能力判断只能定性;各平台报价可能随时调整,以调用时的实际计费为准。
  • 边界仅支持文本输入输出,单次输出上限 8000 tokens,可查平台仅 1 家,可用性与限流受单一供应商约束。

资料说明

本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并, 冲突时取优先级高的来源。价格单位是美元 / 百万 tokens,为各平台对 API 调用的报价,不含自部署成本。 资料由公开来源整理,不代表 AiTest 已对该模型或其收录中转站做过真实性、稳定性或安全检测。

本页的模型介绍、架构、性能与性价比解读为 AI 综合公开信息整理,部分未经本站逐项核实;规格、价格与跑分以本页数据字段为准。

本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并,冲突时取优先级高的来源;价格单位为美元 / 百万 tokens。