52K 指令微调
Alpaca 7B 在 52K 条指令跟随演示上做监督学习微调,这些演示以 self-instruct 方法生成,用于训练模型的指令跟随能力。
拖动滑块完成拼图,通过后发送验证码
独立第三方 AI 评测平台 · 只用实测数据
从 LLaMA 7B 微调而来、基于 52K 指令演示的开源指令跟随模型
Stanford Alpaca 是斯坦福 CRFM 团队发布的指令跟随语言模型,由 Rohan Taori、Ishaan Gulrajani、Tianyi Zhang、Yann Dubois、Xuechen Li、Carlos Guestrin、Percy Liang、Tatsunori B. Hashimoto 等人完成。它从 Meta 的 LLaMA 7B 模型出发,用 52K 条以 self-instruct 风格由 OpenAI text-davinci-003 生成的指令跟随演示做监督微调。在单轮指令跟随的初步评估中,Alpaca 7B 的行为与 OpenAI 的 text-davinci-003 定性相似,同时体量小、复现成本低于 600 美元。团队公开了训练配方与数据,并计划未来放出模型权重。短板也很明确:公开 demo 已被关闭,且项目仅供学术研究、禁止任何商业用途。
它的定位是让学术界能够研究指令跟随模型:此前这类研究难以开展,因为学术界拿不到能力接近 text-davinci-003 等闭源模型的可用模型。
可确认的现状是:Alpaca 7B 从 Meta 的 LLaMA 7B 模型出发,用 52K 条指令跟随演示做监督学习微调,这些演示以 self-instruct 风格由 OpenAI 的 text-davinci-003 生成。在单轮指令跟随的初步评估与 self-instruct 评估集上,它表现出与 text-davinci-003 相似的许多行为,同时体量小、复现便宜,复现成本低于 600 美元。团队公开了训练配方与数据,并表示未来打算放出模型权重。
不同用户的使用方式差别很大。普通用户已无法直接体验:官方公告说明公开 demo 现已关闭,原因是托管成本与内容过滤器不足,团队认为研究传播目标已基本达成。研究者可以依据公开的训练配方与数据自行复现模型、研究其行为与缺陷。开发者若想采用需注意,Alpaca 仅供学术研究,禁止任何商业使用。
Alpaca 7B 在 52K 条指令跟随演示上做监督学习微调,这些演示以 self-instruct 方法生成,用于训练模型的指令跟随能力。
模型从 Meta 的 LLaMA 7B 出发微调,其体量小、易复现,在学术预算下即可完成训练研究。
指令数据以 self-instruct 方法构建,用 OpenAI 的 text-davinci-003 自动生成指令跟随演示,用于补足高质量指令数据这一训练难点。
复现成本低于 600 美元,使学术团队能在有限预算下训练出行为接近 text-davinci-003 的指令跟随模型。
在单轮指令跟随的初步评估以及 self-instruct 评估集上,Alpaca 7B 表现出与 OpenAI text-davinci-003 相似的许多行为。
团队公开了训练配方与数据,并表示为研究社区提供交互 demo 以理解模型行为,同时计划未来放出模型权重。
Alpaca 明确仅供学术研究,禁止任何商业使用。原因包括继承 LLaMA 的非商业许可、指令数据来自 text-davinci-003 的使用条款,以及安全措施不足。
Alpaca 的定位就是让学术界研究指令跟随模型,团队公开了训练配方与数据,可在有限预算下复现并研究其行为与失败案例。
复现成本低于 600 美元,适合想在学术预算内训练指令跟随模型的团队参照其配方与 self-instruct 数据流程。
在单轮指令跟随评估与 self-instruct 评估集上,Alpaca 与 text-davinci-003 行为相似,可用于对比研究与失败行为分析。
官方明确 Alpaca 仅供学术研究,禁止任何商业使用,并继承 LLaMA 的非商业许可,不能用于商业产品。
官方公告说明公开 demo 现已关闭,原因是托管成本与内容过滤器不足,普通用户已无法通过 demo 直接体验。
官网未给出收费方案或价格数字,官方也没有把它作为商业产品出售。可以确认的是,它明确仅供学术研究,禁止任何商业使用,原因是它基于非商业许可的 LLaMA,并且指令数据基于 OpenAI 的 text-davinci-003。
主力是 Alpaca 7B,从 Meta 的 LLaMA 7B 模型出发,用 52K 条指令跟随演示做监督学习微调。在单轮指令跟随的初步评估以及 self-instruct 评估集上,它表现出与 OpenAI 的 text-davinci-003 相似的许多行为,同时体量小、复现成本低于 600 美元。
如果目标是做学术研究、需要在有限预算下复现并研究指令跟随模型行为,Alpaca 7B 在单轮指令评估中与 text-davinci-003 行为相似且成本低于 600 美元,是合适的选择。如果要用于商业产品或需要成熟的安全措施,Alpaca 明确禁止商业使用且安全措施不足,text-davinci-003 等闭源模型反而更合适。
官网并未说明地区可用性限制,但明确的限制是:Alpaca 仅供学术研究,禁止任何商业使用。这来自三点:它基于非商业许可的 LLaMA,指令数据基于禁止开发与 OpenAI 竞争模型条款的 text-davinci-003,以及官方未设计足够安全措施。此外公开 demo 现已关闭,无法通过 demo 直接体验。
数据以 self-instruct 方法构建。团队通过该方法生成了 52K 条指令跟随演示,这些演示由 OpenAI 的 text-davinci-003 生成,然后用于对 LLaMA 7B 做监督学习微调。团队公开了训练配方与数据。
公告说明公开 demo 现已关闭。最初发布 demo 的目标是以易获取的方式传播研究,团队认为这一目标已基本达成;同时考虑到托管成本以及内容过滤器的不足,决定把 demo 下线。
| 工具 | 编辑评分 | 价格 | 核心功能 | 平台 |
|---|---|---|---|---|
| Stanford Alpaca本工具 | 4.3 | 未标价 | 52K 指令微调;基于 LLaMA 7B;self-instruct 数据;低成本复现 | Web |
| Gemma-7B-IT | — | 未标价 | 谷歌7B 参数指令调整模型 | — |
| Mistral NeMo | — | 未标价 | 最先进的12B 模型,支持多语言应用 | — |
| Eurus-2-7B-PRIME | — | 未标价 | 基于 PRIME 方法训练的7B 参数语言模型,专为提升推理能力而设计 | — |
| Llama-3 70B Gradient 524K Adapter | — | 未标价 | Llama-3 70B 模型的 LoRA 适配器,扩展上下文长度至超过524K | — |
| AMD-Llama-135m | — | 未标价 | AMD 训练的高性能语言模型 | — |