RNN 与 Transformer 融合
结合了 RNN 和 Transformer 的所有优点,既可高效并行推理训练,亦可高效串行推理训练,并引入 ROSA 机制与 DeepEmbed 机制。
拖动滑块完成拼图,通过后发送验证码
独立第三方 AI 评测平台 · 只用实测数据
RWKV 是一套新一代大模型架构,由 BlinkDL 主导的社区开源项目维护,定位为「超越 Transformer」的替代方案。它同时兼顾高效并行与高效串行训练推理,具备恒定生成速度、恒定显存、无需 KV Cache 和无限上下文等特性,并已推出 RWKV-7 G1 系列模型,参数覆盖 2.9B 到 13.3B。在 Uncheatable Eval 评测中,13.3B 版本平均分为 5.992,优于同规模 Qwen3-14B(6.124)等模型。短板是官网未公开托管服务价格与商业化方案,用户需自行部署或从 HuggingFace、魔搭下载模型。
RWKV 是一套开源的大模型架构,由 BlinkDL 主导开发,官网为 rwkv.cn。它的核心目标是结合 RNN 与 Transformer 的优点:既支持高效并行训练与推理,也支持高效串行训练与推理,官方将其定位为「新一代大模型架构,超越 Transformer」,并引入了 ROSA 机制与 DeepEmbed 机制。
当前主力形态是 RWKV-7 G1 系列模型,已发布 RWKV 7 G1 i 13.3B、RWKV 7 G1 i 7.2B、RWKV-7 G1 i 2.9B 等规格,模型可通过 HuggingFace 与魔搭(ModelScope)下载。架构层面强调超高并发(Massive Parallelization)、恒定速度(Constant generation speed)、恒定显存(Constant VRAM)、无需 KV Cache(Without KV Cache)、高效 State-tuning 和无限上下文(Infinite ctxlen)。
对普通用户,官网提供在线 Demo,可直接体验最新 RWKV 模型;对开发者,核心代码托管在 GitHub 的 RWKV-LM 仓库,并提供 RWKV pip 包、Albatross 推理引擎、Ai00 推理引擎、RWKV-PEFT 微调工具和基于 Flutter+C++ 的 RWKV APP;对研究者,官网整理了 RWKV 架构与多模态方向的相关论文生态,并有 RWKV 生态大赛 2025 等社区活动。
结合了 RNN 和 Transformer 的所有优点,既可高效并行推理训练,亦可高效串行推理训练,并引入 ROSA 机制与 DeepEmbed 机制。
具备恒定生成速度(Constant generation speed)与恒定显存(Constant VRAM),无需 KV Cache,长文本场景下资源占用不随上下文增长。
支持无限上下文(Infinite ctxlen),并支持高效 State-tuning,适合需要处理超长文本或持续对话的场景。
Uncheatable Eval 用最新论文、新闻、代码、百科、小说评估真实语言建模与泛化能力。rwkv7-g1g-13.3b-20260523 平均分为 5.992,数值越低越好。
提供 Albatross 高效推理引擎、基于 WebGPU(vulkan)的 Ai00 推理引擎(支持 nf4/int8 量化)、RWKV pip 包,以及含 LoRA、State-tuning、MiSS 的 RWKV-PEFT 微调工具。
提供在线 Demo 可直接体验最新 RWKV 模型;RWKV APP 基于 RWKV 架构与 Flutter + C++ 高性能推理引擎融合,方便移动端使用。
当你要研究或部署非 Transformer 架构的大模型时,RWKV 值得优先看:它有完整训练代码、推理引擎与微调工具链,13.3B 版本在 Uncheatable Eval 上平均分 5.992,且恒定显存、无需 KV Cache,适合长文本与高并发场景。若你需要开箱即用的商业 API、现成 SaaS 服务或明确的价格方案,此时要先评估自部署成本。
关注非 Transformer 架构演进,官网提供 ROSA、DeepEmbed 机制说明与架构历史文档,可按图索骥读论文。
已有 GPU 环境,需要恒定显存、无需 KV Cache 的推理方案,可直接从 HuggingFace 或魔搭取 RWKV 7 G1 系列权重。
RWKV APP 基于 Flutter + C++ 推理引擎,Ai00 支持 nf4/int8 量化,适合在集显或低显存设备上跑模型。
若产品要求开箱即用、带 SLA 的接口,需要先评估自建推理集群的成本。
模型权重与工具链是核心交付物,官网没有面向创作者的编辑器或模板产品,直接用来写稿不够顺手。
| 指标 | 数值 | 数据来源 |
|---|---|---|
| rwkv7-g1g-13.3b-20260523 平均分 | 5.992 | Uncheatable Eval |
| Qwen3-14B-Base 平均分 | 6.124 | Uncheatable Eval |
| Ministral-3-14B-Base-2512 平均分 | 6.047 | Uncheatable Eval |
官网模型区块列出 RWKV 7 G1 i 13.3B、RWKV 7 G1 i 7.2B、RWKV-7 G1 i 2.9B,以及 RWKV-7 G1 系列,可在 HuggingFace 和魔搭(ModelScope)下载,另提供 GGUF 格式,方便本地量化推理。
RWKV 结合了 RNN 和 Transformer 的所有优点,既可高效并行推理训练,亦可高效串行推理训练。架构上引入 ROSA 机制与 DeepEmbed 机制,做到无需 KV Cache、恒定显存和无限上下文。
在 Uncheatable Eval 上,rwkv7-g1g-13.3b-20260523 平均分为 5.992,同表中 Qwen3-14B-Base 为 6.124、Ministral-3-14B-Base-2512 为 6.047,数值越低越好,RWKV 13.3B 平均分领先于这两个同规模模型。
官方生态提供 RWKV-PEFT 微调工具,含 LoRA、State-tuning、MiSS 等多种微调方法;架构本身支持高效 State-tuning,适合在有限算力下把模型适配到垂直任务。
官网首页提供在线 Demo,可直接体验最新 RWKV 模型;resources 页的教程按「入门 在线体验」「中级 本地部署」「高级 模型微调」分三档,可以先从在线体验开始再往下走。