共享 GPU 推理
把成员各自的专用 GPU 汇集成共享推理集群,按真实容量限制人数。满员后开放 waitlist,分摊的是基础设施的实际成本,而不是按 token 计费。
拖动滑块完成拼图,通过后发送验证码
独立第三方 AI 评测平台 · 只用实测数据
NaN 是一个由成员共享 GPU 的封闭开发者社区,网站本身只负责管理访问权限,社区活动主要在 Discord 上进行。集群提供兼容 OpenAI 的 API,通过 https://api.nan.builders/v1 接入,凡是接受 base URL 和 API Key 的工具都能直接使用。主力模型包括 deepseek-v4-flash、glm5.3、qwen3.6、gemma4 等,覆盖 LLM、embedding、rerank、TTS/STT 与图像生成。会员分两档,nan_member 与 glm 5.3 premium,后者为 200€ /mo、含 3,000M token 额度。短板是准入门槛:社区按共享 GPU 实际容量限制人数,满员后开启 waitlist,且每位成员都需要付费。API Key 必须成为社区成员后才能在用户设置的 API Keys 处生成,密钥个人持有、不可转让。
NaN 是一个由构建者共建的封闭社区,核心做法是把成员各自的专用 GPU 汇集起来,用共享推理集群运行开源模型,从而把基础设施的真实成本分摊到真正会用它的人身上。它的出发点很明确:闭源模型 API 方便但贵且有额度限制,开源模型免费但要正经跑起来需要的硬件几乎没人家里有。社区按共享 GPU 的实际容量限流,满员即开放 waitlist;网站只负责访问管理,日常交流发生在 Discord,每位成员都要付费才能留下。
集群把开源模型放在兼容 OpenAI 的 API 后面。只要一个工具接受 base URL 和 API Key,就能接上 NaN,Base URL 为 https://api.nan.builders/v1,鉴权方式是 Authorization: Bearer sk-your-key。Claude Code 用的是 Anthropic 协议而非 OpenAI 兼容协议,因此需要通过 OpenCode 或本地网关接入集群。模型目录覆盖多条线:LLM 侧有 deepseek-v4-flash(305B MoE、FP8、1M 上下文、视觉、工具调用、推理)、glm5.3(753B MoE、NVFP4、稀疏注意力)、qwen3.8-flash、glm5.3-flash、gemma4、qwen3.6;embedding 侧有 qwen3-embedding(8B、4096 维、100+ 语言、MMTEB 70.58);rerank 侧有 Qwen3-Reranker-8B;语音侧有 kokoro(TTS、82M 参数、67 种音色、<1s 延迟)与 whisper(STT、large-v3、西班牙语约 3.2% WER);图像侧有 flux-2-klein 与 qwen-image-2.1。
接入姿势按角色分:普通成员在用户设置的 API Keys 页面生成密钥后,把任何兼容 OpenAI 的客户端、agent 或自建应用指向 Base URL 即可;开发者可直接复用现有 SDK,不需要为 NaN 单独写适配层;团队则更适合把共享集群当作统一推理后端,但要注意限流是按 API key 计的——每分钟请求数和并发请求数都有上限,部分模型还会额外叠加自己的限制。
把成员各自的专用 GPU 汇集成共享推理集群,按真实容量限制人数。满员后开放 waitlist,分摊的是基础设施的实际成本,而不是按 token 计费。
Base URL 为 https://api.nan.builders/v1,鉴权走 Authorization: Bearer sk-your-key。凡是接受 base URL 与 API Key 的工具都能直接接入,无需自写适配层。
官方说明 ↗覆盖 LLM、embedding、rerank、TTS/STT 与图像生成五类。LLM 侧含 deepseek-v4-flash、glm5.3、qwen3.6、gemma4 等,上下文最高到 1M,多数模型支持视觉与工具调用。
不记录 prompt、模型响应与代码,内容只存在于本地客户端或 agent 会话中。服务器仅保留维护集群用的 tokens/s 与 RPM 指标,处理过程位于欧盟境内。
密钥需在成为社区成员后,于平台用户设置的 API Keys 页面自行生成。密钥为个人持有、不可转让,接入方按 key 计限流。
官方说明 ↗额度按每个 API Key 计算:有每分钟请求数上限,也有同时并发请求数上限,部分模型还会在此基础上叠加自己的额外限制,写高并发 agent 时需留意。
官方说明 ↗Claude Code 说的是 Anthropic 协议,不连 OpenAI 兼容端点,因此要经由 OpenCode 或本地网关才能接入集群,官方页面分别说明了这两种接入路径。
官方说明 ↗官网设有 built with nan 板块,展示成员用共享推理集群做出的真实项目,例如面向罕见转移性癌症患者的双语 RAG 医疗 webapp,可对数百份临床文档做语义检索。
官方说明 ↗当你是愿意付费、且真正会高频调用开源模型的构建者时,NaN 值得考虑:200€ /mo 的 glm 5.3 premium 档给到 3,000M token 额度与 1M 上下文,并带一个 1 vCPU、2 GiB 内存、10 GiB 磁盘的免费 Micro workspace,附赠的 GLM 5.3 前沿模型也省去了自己选型的功夫。零日志与欧盟境内处理对处理敏感数据、又不想让代码进训练集的团队是实打实的加分项。但要注意它本质是封闭社区而非通用 API 服务:名额受共享 GPU 实际容量限制,满员即进 waitlist,而且每位成员都要付费,没有免费试用路径;限额按 API key 计,并发与每分钟请求数都有上限,跑大规模 agent 前要先算容量。
已经用 OpenAI 兼容 SDK 写好代码,只需换 base URL 就能接上,按 200€ /mo 付费换取 3,000M token 额度,适合把共享集群当主力推理后端。
deepseek-v4-flash、glm5.3 等多款模型提供 1M 上下文并支持工具调用与推理,适合长文档理解、多步 agent 与代码生成类项目。
推理过程零日志,不记录 prompt、响应与代码,数据处理位于欧盟境内,且你的代码不会用于训练任何模型,适合医疗、法务等对留存敏感的场景。
社区按共享 GPU 实际容量限制名额,每位成员都需要付费,没有免费额度可先跑通流程,官网对定价之外是否还有试用途径也未作说明。
限额按 API Key 计,有每分钟请求数与并发请求数上限,社区名额受限且满员后走 waitlist,短时间内难以随业务量快速扩号。
Claude Code 这类说 Anthropic 协议的工具无法直连兼容 OpenAI 的端点,必须经 OpenCode 或本地网关中转,多一层维护成本。
会员分两档。nan_member 档提供 GLM 5.3 前沿开源模型与推理能力;glm 5.3 premium 档为 200€ /mo(含税),含 GLM 5.3 前沿开源模型与推理、每个计费周期 3,000M token 额度、每滚动 4 小时 400M token 的窗口限制、1M 上下文与 10 路并发请求,并附一个免费 Micro workspace(1 vCPU、2 GiB 内存、10 GiB 磁盘)。付费后几分钟内访问权限即生效。
官网没有提到免费试用。这是一套封闭社区模式:网站只管理访问权限,每位成员都要付费;名额受共享 GPU 的实际容量限制,满了就开放 waitlist,等有人退出才轮得到。要评估成本,建议先按 200€ /mo 与 3,000M token 额度估算自己的用量。
集群跑的是兼容 OpenAI 协议的 API。把客户端的 Base URL 换成 https://api.nan.builders/v1,鉴权用 Authorization: Bearer sk-your-key,凡是接受 base URL 和 API Key 的工具都能直接工作。API Key 需要在平台用户设置的 API Keys 页面自行生成,且必须先是社区成员。
不能直连。Claude Code 说的是 Anthropic 的协议,而不是 OpenAI 兼容协议,所以它连不到这个集群上,需要经由 OpenCode 或本地网关中转,官方文档对这两条路径分别做了说明。其他接受 OpenAI 兼容端点的客户端则不受影响。
按官网说明是零日志:不记录 prompt、模型响应,也不记录代码,内容只留在你自己的客户端、agent 或自建应用的本地会话里。服务器只保留维护集群所需的服务指标,如 tokens/s 与 RPM,处理过程在欧盟境内,你的代码不会用于训练任何模型。
有限制,而且是按每个 API Key 计算的:有每分钟请求数的上限,也有同时进行的请求数上限,部分模型还会在这之上再叠加自己的额外限制。glm 5.3 premium 档另有每滚动 4 小时 400M token 的窗口限制,这一条通常是编码 agent 最先触及的瓶颈。
| 工具 | 编辑评分 | 价格 | 核心功能 | 平台 |
|---|---|---|---|---|
| NaN本工具 | 4.5 | nan_member 与 glm 5.3 premium 两档,后者 200€ /mo(含税) | 共享 GPU 推理;OpenAI 兼容 API;开源模型目录;零日志推理 | API / Web |
| Crazyrouter | — | 未标价 | 这是一款企业级、高性价比的 AI API 网关,提供统一的 API 密钥,通过兼容 Op | — |
| Best API | — | 未标价 | 兼容 OpenAI 的 API 接入层,提供 25% 的成本优化,支持无缝迁移 | — |
| Massed Compute | — | 按需实例 $0.43+/hr 起,最短 1 小时 | 用于人工智能、机器学习等应用的 GPU 和 CPU 云计算基础设施 | Web / API |
| RunInfra | — | 未标价 | 自动化开源 AI 模型优化与部署 API 平台 | — |
| Wizzx AI | All In One AI API Platform | — | 1 credit = $0.001 USD;Nano Banana from $ | 用于 20+ 个 AI 图像和视频生成模型的统一 API 基础设施 | Web / API |