Mixtral 8x22B

MODEL PROFILE模型资料

NanoGPT · 2024-04-17 发布 · mistral 家族 · 开源权重 · 1 家平台收录

资料长期未更新 返回厂商

Mixtral 8x22B 是 NanoGPT 于 2024-04-17 发布的开源模型。资料显示上下文窗口 65.5K、单次最大输出 52.4K、模态为 文本。官方口径价格:输入 $2/M、输出 $6/M、缓存读 $0.2/M(美元 / 百万 tokens)。能力上支持温度调节。目前有 1 家 provider 或网关收录该模型。

关键指标

官方输入价$2/M
官方输出价$6/M
缓存读 / 写$0.2/M / —
上下文窗口65.5K
最大输出52.4K
输入模态文本
知识截止2024-01-31
生成速度—
首字延迟 TTFT—
部署平台数1 家
AA 综合指数—
最后更新2024-04-17
快速信息
厂商
NanoGPT
发布日期
2024-04-17
部署平台
1 家
中转站收录
—
资料完整度
61%(11/18 项)
生命周期
资料长期未更新

暂无:许可证、参数规模、缓存写价、推理、工具调用、结构化输出、附件(上游未公开,本站不估算)。 资料已 924 天没更新,规格与价格可能已变;发布 924 天。

规格与能力

上面没列到的字段
开源权重
是
模型家族
mistral
许可证
—
参数规模
—
能力 温度调节

平台报价对比

2 个来源口径
Mixtral 8x22B 在各来源的输入 / 输出价格(美元 / 百万 tokens)
来源输入价输出价缓存读相对输入价
Nano-GPT $2/M$6/M$0.2/M0.0%
models.dev $2/M$6/M$0.2/M0.0%

同一个模型在不同网关的报价可能不同。本页基准取官方口径 $2/M / $6/M(输入 / 输出,美元 / 百万 tokens),其余来源的差价在「相对输入价」列列出,供比价参考。

开源托管商比价

1 家
Mixtral 8x22B 在各托管商的价格与实测输出吞吐(美元 / 百万 tokens)
托管商输入价输出价混合价上下文输出吞吐
OpenRouter mistralai/mixtral-8x22b-instruct Only per-token route left in this matrix; DeepInfra removed the model and Fireworks moved it to dedicated deployment $0.65/M$0.65/M$0.65/M 65.5K—

托管商口径:同一份开源权重在不同推理平台上的报价与吞吐(吞吐为该平台公开的 output tokens/s 参考值,不是本站实测)。 模型家族 Mistral、参数 141B、许可证 Apache-2.0。

同类模型对比

5 条
Mixtral 8x22B 的同类模型对比
模型上下文输入价输出价输入价差AA 综合
Gemini 3.1 Pro (Preview High) 1.05M$2/M $12/M0.0%—
Gemini 3.1 Pro (Preview Low) 1.05M$2/M $12/M0.0%—
Gemma 4 12B Instruct 131.1K$0.05/M $0.25/M-97.5%—
Llama 3.2 3b Instruct 131.1K$0.0306/M $0.0493/M-98.5%—
Ornith 1.5 122B 262.1K$0.26/M $2.08/M-87.0%—

同厂商优先,其次同家族与同上下文档;价格差为相对本模型的输入价

开源部署测算

4 个量化档位
参数规模39B 激活 / 141B 总
上下文65.5K
许可证Apache-2.0
发布时间2024-04
Mixtral 8x22B 自部署的量化档位、显存需求与推荐卡型
量化档位显存需求质量参考推荐卡型
FP16Multi-GPU 282 GB100%4x H100-80GB
FP8Production 145 GB99%2x H100-80GB
AWQ INT4Single-GPU fit 75 GB95%1x H100-80GB
GGUF Q4_K_Mllama.cpp 80 GB93%1x A100-80GB
权重能力 texttool-usefunction-callingmultilingual

显存需求与推荐卡型是公开资料的估算口径,实际占用受驱动、并行策略与推理框架影响;「质量参考」是相对该模型最高精度档的百分比。 权重下载见开源仓库。 模型主页见厂商站点。 按卡型比价与租金测算见部署测算。

关于 Mixtral 8x22B 的常见问题

5 条
Mixtral 8x22B 的 API 价格是多少?

当前收录的官方口径价格为输入 $2/M、输出 $6/M、缓存读 $0.2/M,单位为美元 / 百万 tokens。不同网关可能有自己的加价与折扣,实际计费以调用平台为准。

Mixtral 8x22B 支持多长的上下文?

资料显示上下文窗口 65.5K(65,536 tokens),单次最大输出 52.4K。实际可用长度还取决于调用平台的限制。

Mixtral 8x22B 是开源模型吗?

Mixtral 8x22B 提供开源权重,可以自行下载部署。本站展示的价格是各托管平台对 API 调用的报价,自部署不计入。

Mixtral 8x22B 支持哪些能力?

按当前资料,Mixtral 8x22B 支持温度调节。输入输出模态为 文本。

Mixtral 8x22B 可以在哪些平台调用?

当前资料显示该模型被 1 家 provider 或网关收录。本站核对的数据来源包括 models.dev、Nano-GPT。收录数量只反映公开目录的部署面,不代表任何一家平台的服务质量。

资料说明

本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并, 冲突时取优先级高的来源。价格单位是美元 / 百万 tokens,为各平台对 API 调用的报价,不含自部署成本。 资料由公开来源整理,不代表 AiTest 已对该模型或其收录中转站做过真实性、稳定性或安全检测。

本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并,冲突时取优先级高的来源;价格单位为美元 / 百万 tokens。