Mistral-7B-Instruct-v0.2-llamafile

MODEL PROFILE模型资料

mozilla-ai · 2023-12-28 发布 · 开源权重

无公开托管渠道

Mistral-7B-Instruct-v0.2 的 llamafile 封装版本，面向希望在本地或离线环境运行 7B 指令模型的开发者与隐私敏感场景；单文件形态降低部署门槛，但公开价格、平台报价与第三方跑分均缺失。

模型介绍

Mistral-7B-Instruct-v0.2-llamafile 属于 Mistral 7B 指令模型系列，是 Mistral-7B-Instruct-v0.2 的 llamafile 分发形态，由 mozilla-ai 于 2023-12-28 发布。它把 7B 参数的开源指令模型与本地推理运行时打包在一起，目标是让开发者在桌面、笔记本或边缘设备上完成离线文本推理，减少环境安装和依赖配置。许可证为 Apache-2.0，权重开放，输入输出均为文本。公开资料未给出官方价格、能力标签与第三方跑分，因此它更适合被看作一个便于本地验证和私有部署的 7B 文本模型入口，而不是追求榜单成绩或即开即用 API 服务的方案。

选型建议需要本地离线、可自托管且能接受 7B 能力边界的文本任务可选它；追求高精度推理、多模态或开箱即用 API 报价的场景不宜选。

Mistral-7Bllamafile开源权重本地部署指令模型Apache-2.0

关键指标

输入模态文本

HF 下载量12,353

HF 点赞26

适用场景

在无网络的本地电脑上运行单文件模型，完成离线问答与文本处理
用 7B 指令模型做内部文档摘要、邮件草稿和客服话术改写，数据留在本地
在轻量 GPU 或 CPU 开发机上验证提示词、指令跟随和推理流程
为隐私敏感的小型应用提供文本分类、信息抽取或简单代码补全原型

暂无：上下文窗口、最大输出、知识截止、模型家族、输入价、输出价、缓存读价、缓存写价、推理、工具调用、结构化输出、附件、温度调节（上游未公开，本站不估算）。没有任何平台收录，也没有公开报价：可能是自部署权重或尚未开放调用；发布 1049 天。

规格与能力

上面没列到的字段

整体是 Mistral 7B 指令模型的本地可执行分发形态，重点在单文件封装与离线运行，而不是新的模型架构。

结构模型侧为 Mistral 7B 的仅解码器 Transformer 指令微调版本，分发侧由 llamafile 将权重与推理运行时打包为单文件，便于本地直接启动。
能力支持文本输入输出和指令跟随，可用于问答、摘要、改写与轻量代码辅助；具体上下文长度、量化格式以实际分发文件说明为准。
披露许可证为 Apache-2.0，权重开放；公开资料未标注能力标签，也缺少第三方跑分和详细架构参数，选型时需结合实测。

开源权重: 是
许可证: apache-2.0
参数规模: 7B

能力资料未标注

同系列其他规格

型号	厂商	参数	上下文	输入价	输出价
Mistral-7B-Instruct-v0.3	Mistral	—	65.5K	免费	免费
mistral-7b-instruct-v0.2	Cortecs	7B	32K	$0.159/M	$0.219/M
Mistral-7B-Instruct-v0.1	Mistral	7B	—	—	—
Mistral-7B-v0.1	Mistral	7B	—	—	—
Mistral 7B Instruct	Mistral	—	—	$0.15/M	$0.2/M

性能表现

公开跑分数据缺失，以下仅按 7B 参数规模、llamafile 封装形态和文本指令模型的通用特性做定性判断，不做定量结论。

强项7B 体量配合单文件封装，本地部署门槛低，适合离线、隐私敏感和算力受限环境下的通用文本任务。
短板受 7B 规模限制，复杂推理、长文一致性和高难度代码任务通常弱于更大模型；实际效果需按目标任务自测。
适合指令问答、文本改写、摘要、简单代码辅助等对成本和数据不出本地更敏感、对极致效果要求不高的场景。

价格与性价比

结合各平台报价与同类对比

官方价格未公开，权重以 Apache-2.0 开放；公开平台接入数为 0，暂无 API 报价可用于横向比价。

定位以自托管为主的开放权重模型，没有官方按 token 计费；成本主要落在硬件、电力与运维，而非调用单价。
横向对比与 Meta-Llama-3-8B-Instruct-llamafile 同属 llamafile 封装路线，公开价格与跑分均缺失，价差无法量化。
平台差价公开平台接入数为 0，未见云平台或托管服务报价，无法形成平台间价差；若使用第三方托管需另核条款。
省钱已有本地算力时可直接运行，省去 API 调用费；算力不足时自建总拥有成本可能高于按量付费，应先估算。

Mistral-7B-Instruct-v0.2-llamafile 的同类模型对比
模型	上下文	输入价	输出价	输入价差	AA 综合
Meta-Llama-3-8B-Instruct-llamafile	—	—	—	基准	—

关于 Mistral-7B-Instruct-v0.2-llamafile 的常见问题

2 条

Mistral-7B-Instruct-v0.2-llamafile 的 API 价格是多少？

当前资料未收录该模型的公开 API 价格：可能是未公开定价，或只提供自部署的开源权重。

Mistral-7B-Instruct-v0.2-llamafile 是开源模型吗？

Mistral-7B-Instruct-v0.2-llamafile 提供开源权重，可以自行下载部署，许可证为 apache-2.0，HuggingFace 下载量 12,353。本站展示的价格是各托管平台对 API 调用的报价，自部署不计入。

使用注意

口径公开资料未提供第三方跑分、官方价格和能力标签，性能与成本判断只能作定性参考，不能替代任务实测。
边界7B 参数和纯文本模态决定其不适合高精度多模态、超长上下文或高并发生产推理；具体限制以实际分发文件为准。

资料说明

本页资料由多个公开来源交叉整理：按「官方目录 → 通用网关 → 开源仓库 → 中文资料」的优先级合并，冲突时取优先级高的来源。价格单位是美元 / 百万 tokens，为各平台对 API 调用的报价，不含自部署成本。资料由公开来源整理，不代表 AiTest 已对该模型或其收录中转站做过真实性、稳定性或安全检测。

本页的模型介绍、架构、性能与性价比解读为 AI 综合公开信息整理，部分未经本站逐项核实；规格、价格与跑分以本页数据字段为准。