Qwen3-8B-speculator.eagle3

MODEL PROFILE模型资料

RedHatAI · 2025-09-19 发布 · 开源权重

无公开托管渠道

Qwen3-8B-speculator.eagle3 是 RedHatAI 于 2025 年 9 月发布的开源文本权重,名称指向 Qwen3-8B 体系下的 EAGLE-3 投机解码草稿组件,面向需要在自建推理链路中评估文本生成加速与部署成本的工程团队。

模型介绍

该模型属于名称中 Qwen3-8B 所指的文本模型体系,由 RedHatAI 发布,采用 Apache-2.0 许可证开放权重,参数规模为 8B,输入与输出均为文本。从 speculator.eagle3 的命名看,它更像是服务于投机解码(speculative decoding)的草稿组件,而不是面向终端用户的通用对话模型:其潜在价值在于为 Qwen3 系列目标模型生成候选 token,再由目标模型验证,以改善文本生成时延。需要说明的是,能力标签未标注,官方价格未公开,本站暂无第三方跑分,公开平台覆盖也为 0 家,因此对它的问题解决能力应限定在“推理加速组件评估”这一层面,而不是直接宣称通用能力。对自建推理团队而言,它提供了可自由改造的权重与许可证,但实际收益需要结合目标模型、硬件与批处理策略做压测。

选型建议需要在自建推理中试验 EAGLE-3 投机解码、且能接受缺少公开跑分与价格信息时可选;若需要独立通用模型或成熟平台报价,则不宜作为首选。

Qwen3EAGLE-3投机解码开源权重Apache-2.0文本生成RedHatAI

关键指标

输入模态文本
HF 下载量44,027
HF 点赞29

适用场景

  • 在自建推理服务中评估 EAGLE-3 草稿模型对 Qwen3 文本生成的加速效果
  • 用 Apache-2.0 权重搭建投机解码实验,对比不同目标模型的接受率与吞吐变化
  • 为低时延文本生成链路做草稿模型选型,结合硬件与批大小进行压测
  • 在离线环境中验证 Qwen3-8B 体系下 speculator 权重的兼容性与部署成本

暂无:上下文窗口、最大输出、知识截止、模型家族、输入价、输出价、缓存读价、缓存写价、推理、工具调用、结构化输出、附件、温度调节(上游未公开,本站不估算)。 没有任何平台收录,也没有公开报价:可能是自部署权重或尚未开放调用;发布 418 天。

规格与能力

上面没列到的字段

该模型以文本为输入输出,名称中的 speculator.eagle3 指向 EAGLE-3 投机解码草稿组件;除 8B 参数与 Apache-2.0 许可外,网络结构、训练细节与加速配置的公开资料较少。

  • 结构名称中的 speculator.eagle3 指向 EAGLE-3 投机解码草稿模型形态,参数规模为 8B;具体层数、注意力设计与训练配方未在公开事实中披露。
  • 能力以文本为输入输出,核心用途是生成候选 token 供目标模型验证,从而参与投机解码流程;独立生成能力需结合目标模型评估。
  • 披露权重以 Apache-2.0 开放,厂商与发布日期明确;训练数据、蒸馏来源、加速配置和适配目标模型清单公开资料较少。
开源权重
是
许可证
apache-2.0
参数规模
8B
能力 资料未标注

同系列其他规格

型号厂商参数上下文输入价输出价
Qwen3 8B Alibaba 8B 131.1K $0.18/M $0.7/M
Qwen3-8B-Base Qwen 8B — — —
Qwen3-8B-DFlash-b16 z-lab 8B — — —
Qwen3-8B-NVFP4 NVIDIA 8B — — —
qwen3-8b-heretic DreamFast 8B — — —
Qwen3-8B-64k-Context-2X-Josiefied-Uncensored DavidAU 8B — — —
Qwen3 8B Alibaba — — $0.2/M $0.2/M
Qwen3 8B Alibaba — — — —

性能表现

本站暂无第三方跑分,以下为基于命名、参数与组件形态的定性判断,不涉及具体加速比或精度数字。

  • 强项加速组件定位:名称指向 EAGLE-3 草稿模型,适合嵌入投机解码链路,为 Qwen3 系列文本生成降低候选生成开销。
  • 短板验证不足:缺少公开跑分与平台报价,实际接受率、吞吐提升和显存占用会随目标模型、批大小与硬件变化。
  • 适合自建推理评估:适合有压测能力的团队在 Qwen3 文本服务中做草稿模型选型,不适合直接当通用对话模型比较。

价格与性价比

结合各平台报价与同类对比

官方价格未公开,同类对比价格也全部缺失;只能从开源权重与自建部署角度讨论成本结构。

  • 定位开源权重成本:模型以 Apache-2.0 开放,没有公开订阅价,主要成本落在推理硬件、部署运维和压测调优上。
  • 横向对比同厂对比缺价:Llama、Mistral 与 Qwen3 量化版本在对比中均无公开价格,无法形成有意义的价差判断。
  • 平台差价平台报价缺失:本站暂无上架平台报价,跨平台差价无从比较,采购前需自行向服务商询价。
  • 省钱加速换成本:若投机解码有效,节省来自单位请求的算力与时延开销,而非模型授权费;效果需实测确认。

同类模型对比

5 条
Qwen3-8B-speculator.eagle3 的同类模型对比
模型上下文输入价输出价输入价差AA 综合
Llama-3.1-8B-Instruct-NVFP4 —— —基准—
Llama-3.3-70B-Instruct-NVFP4 —— —基准—
Llama-4-Scout-17B-16E-Instruct —— —基准—
Mistral-Small-3.2-24B-Instruct-2506-NVFP4 —— —基准—
Qwen3-32B-NVFP4 —— —基准—

取上下文相近(约 0.5~2 倍)的同类主流模型;同厂商、同家族优先;价格差为相对本模型的输入价

关于 Qwen3-8B-speculator.eagle3 的常见问题

2 条
Qwen3-8B-speculator.eagle3 的 API 价格是多少?

当前资料未收录该模型的公开 API 价格:可能是未公开定价,或只提供自部署的开源权重。

Qwen3-8B-speculator.eagle3 是开源模型吗?

Qwen3-8B-speculator.eagle3 提供开源权重,可以自行下载部署,许可证为 apache-2.0,HuggingFace 下载量 44,027。本站展示的价格是各托管平台对 API 调用的报价,自部署不计入。

使用注意

  • 口径解读边界:能力未标注、无第三方跑分、无官方价格,判断主要依据名称、8B 参数、Apache-2.0 许可与发布日期。
  • 边界使用边界:草稿模型价值依赖目标模型与部署环境,不能脱离投机解码链路单独评估通用文本能力。

资料说明

本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并, 冲突时取优先级高的来源。价格单位是美元 / 百万 tokens,为各平台对 API 调用的报价,不含自部署成本。 资料由公开来源整理,不代表 AiTest 已对该模型或其收录中转站做过真实性、稳定性或安全检测。

本页的模型介绍、架构、性能与性价比解读为 AI 综合公开信息整理,部分未经本站逐项核实;规格、价格与跑分以本页数据字段为准。

本页资料由多个公开来源交叉整理:按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并,冲突时取优先级高的来源;价格单位为美元 / 百万 tokens。