RWKV

RWKV

AI TOOL PROFILE工具资料

融合 RNN 与 Transformer 优势的新一代大模型架构,无需 KV Cache、支持无限上下文

官网地址 https://rwkv.cn

访问官网
价格官网未标价
平台Web
归类大模型与开发平台
收录2026-10-12
复核2026-10-12
编辑评分 4.2 / 5

RWKV编辑总结

EDITOR REVIEW编辑评测

RWKV 是一套新一代大模型架构,由 BlinkDL 主导的社区开源项目维护,定位为「超越 Transformer」的替代方案。它同时兼顾高效并行与高效串行训练推理,具备恒定生成速度、恒定显存、无需 KV Cache 和无限上下文等特性,并已推出 RWKV-7 G1 系列模型,参数覆盖 2.9B 到 13.3B。在 Uncheatable Eval 评测中,13.3B 版本平均分为 5.992,优于同规模 Qwen3-14B(6.124)等模型。短板是官网未公开托管服务价格与商业化方案,用户需自行部署或从 HuggingFace、魔搭下载模型。

RWKV是什么?

RWKV 是一套开源的大模型架构,由 BlinkDL 主导开发,官网为 rwkv.cn。它的核心目标是结合 RNN 与 Transformer 的优点:既支持高效并行训练与推理,也支持高效串行训练与推理,官方将其定位为「新一代大模型架构,超越 Transformer」,并引入了 ROSA 机制与 DeepEmbed 机制。

当前主力形态是 RWKV-7 G1 系列模型,已发布 RWKV 7 G1 i 13.3B、RWKV 7 G1 i 7.2B、RWKV-7 G1 i 2.9B 等规格,模型可通过 HuggingFace 与魔搭(ModelScope)下载。架构层面强调超高并发(Massive Parallelization)、恒定速度(Constant generation speed)、恒定显存(Constant VRAM)、无需 KV Cache(Without KV Cache)、高效 State-tuning 和无限上下文(Infinite ctxlen)。

对普通用户,官网提供在线 Demo,可直接体验最新 RWKV 模型;对开发者,核心代码托管在 GitHub 的 RWKV-LM 仓库,并提供 RWKV pip 包、Albatross 推理引擎、Ai00 推理引擎、RWKV-PEFT 微调工具和基于 Flutter+C++ 的 RWKV APP;对研究者,官网整理了 RWKV 架构与多模态方向的相关论文生态,并有 RWKV 生态大赛 2025 等社区活动。

RWKV核心功能

CAPABILITIES工具标签

RNN 与 Transformer 融合

结合了 RNN 和 Transformer 的所有优点,既可高效并行推理训练,亦可高效串行推理训练,并引入 ROSA 机制与 DeepEmbed 机制。

恒定显存与速度

具备恒定生成速度(Constant generation speed)与恒定显存(Constant VRAM),无需 KV Cache,长文本场景下资源占用不随上下文增长。

无限上下文

支持无限上下文(Infinite ctxlen),并支持高效 State-tuning,适合需要处理超长文本或持续对话的场景。

Uncheatable Eval 评测

Uncheatable Eval 用最新论文、新闻、代码、百科、小说评估真实语言建模与泛化能力。rwkv7-g1g-13.3b-20260523 平均分为 5.992,数值越低越好。

推理与微调工具链

提供 Albatross 高效推理引擎、基于 WebGPU(vulkan)的 Ai00 推理引擎(支持 nf4/int8 量化)、RWKV pip 包,以及含 LoRA、State-tuning、MiSS 的 RWKV-PEFT 微调工具。

在线 Demo 与移动端

提供在线 Demo 可直接体验最新 RWKV 模型;RWKV APP 基于 RWKV 架构与 Flutter + C++ 高性能推理引擎融合,方便移动端使用。

RWKV值不值得用?

VERDICT工具标签

当你要研究或部署非 Transformer 架构的大模型时,RWKV 值得优先看:它有完整训练代码、推理引擎与微调工具链,13.3B 版本在 Uncheatable Eval 上平均分 5.992,且恒定显存、无需 KV Cache,适合长文本与高并发场景。若你需要开箱即用的商业 API、现成 SaaS 服务或明确的价格方案,此时要先评估自部署成本。

建议选它的情况

  • 需要长上下文且显存受限的推理场景
  • 想研究 RNN 与 Transformer 融合架构的研究者
  • 已有 GPU 环境、愿意自行部署与微调的团队

不建议选它的情况

  • 需要开箱即用商业 API、不想自部署的用户
  • 官方未公开托管价格与 SLA,预算敏感的项目需先自行核算

RWKV使用建议

HOW TO USE工具标签
入门先把路子走对
  1. 先跑在线 Demo首页有在线 Demo 区块,可先体验最新 RWKV 模型效果,再决定是否本地部署。
  2. 从 RWKV 7 G1 系列选型模型下载区块列出 RWKV 7 G1 i 13.3B、7.2B、2.9B,按显存和任务复杂度选规格,HuggingFace 与魔搭都有镜像。
  3. 读文档再动手resources 页把文档分为架构历史、提示词指南、性能数据、社区项目,入门教程按「在线体验 / 本地部署 / 模型微调」分三档。
进阶省时间也省钱
  1. 用 Ai00 跑量化推理Ai00 基于 WebGPU(vulkan),支持大多数 GPU 和集显,支持 nf4/int8 量化推理,显存有限的机器优先用它。
  2. 微调选 RWKV-PEFTRWKV-PEFT 含 LoRA、State-tuning、MiSS 等多种微调方法,不必从头训练即可适配垂直任务。
  3. 关注 Albatross 推理Albatross 是高效 RWKV 推理引擎,支持超高并发,服务端高吞吐场景可用它替代通用推理框架。

RWKV适合谁用?

WHO IS IT FOR工具标签

大模型研究者

推荐

关注非 Transformer 架构演进,官网提供 ROSA、DeepEmbed 机制说明与架构历史文档,可按图索骥读论文。

自部署工程师

推荐

已有 GPU 环境,需要恒定显存、无需 KV Cache 的推理方案,可直接从 HuggingFace 或魔搭取 RWKV 7 G1 系列权重。

移动端/端侧开发者

推荐

RWKV APP 基于 Flutter + C++ 推理引擎,Ai00 支持 nf4/int8 量化,适合在集显或低显存设备上跑模型。

需要商业 API 的产品团队

有条件

若产品要求开箱即用、带 SLA 的接口,需要先评估自建推理集群的成本。

中文内容创作者

不推荐

模型权重与工具链是核心交付物,官网没有面向创作者的编辑器或模板产品,直接用来写稿不够顺手。

RWKV优点和缺点

PROS & CONS工具标签

优点

  • 13.3B 版本在 Uncheatable Eval 平均分 5.992,优于 Qwen3-14B 的 6.124(数值越低越好)
  • 无需 KV Cache、恒定显存,长上下文推理资源占用不随长度增长
  • 支持无限上下文与高效 State-tuning,长文本与持续对话场景有优势
  • 同时支持高效并行与串行训练推理,训练端选择更灵活
  • 工具链完整:Albatross、Ai00、RWKV-PEFT、pip 包、RWKV APP 齐备
  • 模型可从 HuggingFace 与魔搭下载,并提供 GGUF 格式

缺点

  • 生态规模仍小于 Transformer 阵营,第三方框架适配依赖社区维护

RWKV关键指标

MEASURED FACTS工具标签
指标数值数据来源
rwkv7-g1g-13.3b-20260523 平均分 5.992 Uncheatable Eval
Qwen3-14B-Base 平均分 6.124 Uncheatable Eval
Ministral-3-14B-Base-2512 平均分 6.047 Uncheatable Eval

RWKV常见问题

FAQ工具标签
RWKV 现在有哪些模型可以下载?

官网模型区块列出 RWKV 7 G1 i 13.3B、RWKV 7 G1 i 7.2B、RWKV-7 G1 i 2.9B,以及 RWKV-7 G1 系列,可在 HuggingFace 和魔搭(ModelScope)下载,另提供 GGUF 格式,方便本地量化推理。

RWKV 和 Transformer 比有什么不一样?

RWKV 结合了 RNN 和 Transformer 的所有优点,既可高效并行推理训练,亦可高效串行推理训练。架构上引入 ROSA 机制与 DeepEmbed 机制,做到无需 KV Cache、恒定显存和无限上下文。

RWKV 13.3B 的评测成绩怎么样?

在 Uncheatable Eval 上,rwkv7-g1g-13.3b-20260523 平均分为 5.992,同表中 Qwen3-14B-Base 为 6.124、Ministral-3-14B-Base-2512 为 6.047,数值越低越好,RWKV 13.3B 平均分领先于这两个同规模模型。

RWKV 能微调吗?用什么工具?

官方生态提供 RWKV-PEFT 微调工具,含 LoRA、State-tuning、MiSS 等多种微调方法;架构本身支持高效 State-tuning,适合在有限算力下把模型适配到垂直任务。

RWKV 怎么快速上手体验?

官网首页提供在线 Demo,可直接体验最新 RWKV 模型;resources 页的教程按「入门 在线体验」「中级 本地部署」「高级 模型微调」分三档,可以先从在线体验开始再往下走。