算力基础设施与数据基础设施的区别

开会时有人说「先把基础设施搭起来」，你追问是算力那层还是数据那层，对方往往答不上来。这两件事预算来源不同、交付周期不同、出问题时背锅的人也不同。这篇给一张对照表和一套判断顺序，帮你分清该租卡、该买存储，还是两个都得动。

开会时有人说「先把基础设施搭起来」，你追问是算力那层还是数据那层，对方往往答不上来。这两件事预算来源不同、交付周期不同、出问题时背锅的人也不同。这篇给一张对照表和一套判断顺序，帮你分清该租卡、该买存储，还是两个都得动。

先把结论摆在这儿：算力基础设施买的是「单位时间能算多少」，数据基础设施买的是「数据能不能被安全、稳定地取用」。前者像电力，后者像仓库和物流。分不清就会出两种典型事故——拿吞吐指标去验收数据平台，或者用数据团队的排期去规划推理资源。

先把两个词的定义掰开

算力基础设施

把模型跑起来的那一层：加速卡、CPU、内存、互联网络、调度与推理服务框架，交付物是每秒能算多少次、并发能扛多少

数据基础设施

让数据可用的那一层：存储、采集与同步管道、清洗与标注、向量库、权限与血缘，交付物是数据找得到、对得上、拿得走

验收口径

前者看吞吐、延迟、可用率；后者看完整性、一致性、可追溯性

• 算力侧的验收指标是性能类：吞吐、首字延迟、并发上限、可用率、单位成本；
• 数据侧的验收指标是质量类：覆盖率、字段准确率、更新时效、血缘完整度；
• 两者混用会翻车：用「每秒处理多少条」去验收数据平台，团队只会往管道里灌没清洗的数据；
• 常见混淆点：向量数据库常被塞进算力清单，但它本质是数据侧的检索组件，跟着数据的生命周期走，不跟着卡的换代走。

组成对照：谁包含谁，边界在哪

交界处有三个组件最容易扯皮：高速存储到底算算力还是数据、特征与向量由谁来写、谁负责给模型服务开数据权限。建议在架构会上直接把这三点写进会议纪要，指定归属，不要靠默认默契。规格与租用口径怎么分，可以到 /compute 核对当时的选项。

• 高速存储：贴在算力节点上的本地盘算算力，跨任务共享的持久化存储算数据；
• 特征与向量：写入和版本管理归数据侧，读取和缓存归算力侧；
• 权限：数据侧定义谁能访问哪张表，算力侧只能申请不能自授权；
• 词汇不确定的，先到 /ai-dict/category/infra 对照一遍再讨论，避免各说各话。

落地场景：什么情况下只需要其中一层

很多团队不是两层都要建，而是被「基础设施」这个词吓到了。按下面四种场景对号入座，能省掉一大半无效讨论。注意每种场景都有不适用的前提，写清楚了再往下走。

1. 只调外部接口做应用两层都不需要自建，你真正要管的是密钥、额度、调用日志和失败重试。四条接入路径的差别可以看 /four-access-routes，确认自己走的是哪条。
2. 自建推理但不做训练重心在算力层，按并发和延迟选规格，数据层一个对象存储加一套同步脚本通常就够。不适用情形：语料含敏感内容、需要长期留存审计的，数据层要单独评估。
3. 做知识问答或检索增强数据层是主战场，算力可以按量租甚至走托管。重点放在文档解析、切片策略、检索质量和权限隔离上。不适用情形：同时要频繁重跑大模型的，算力侧的排队时间会成为瓶颈。
4. 自己微调或训练两层都要动，且数据层的清洗与版本管理往往是真正的工期瓶颈。先按 /compute/sizing 估算力规模，再回过头估数据准备需要几个人、几周。

决策清单：预算会上按这 5 步过一遍

• 第一步问交付物：这次要的是「能跑起来」还是「能查得到」，答案决定预算先花在哪一层；
• 第二步列不可替代项：卡能不能租到看 /compute/availability，而数据能不能出公司通常没有替代方案；
• 第三步算长期账：算力有租与买的分岔，见 /compute/tco；数据层主要是人力与存储的长期持有成本；
• 第四步定验收指标：算力写吞吐、延迟、可用率，数据写覆盖率、准确率、血缘完整度，两边分开签字；
• 第五步写清不适用情形：如果只是几个人试用一个模型接口，两层都不必自建，先看 /four-access-routes 再谈架构。

算力和数据不是同一张预算表上的两行，它们连验收签字的人都不是同一个。