DataHub

STACKS数据与存储

DataHub 项目(Acryl Data 发起) · 元数据与血缘目录平台

数据与存储 整理日期 · 2026-10-27 元数据血缘目录
看同栏目条目
所属栏目 数据与存储 数据处理与管道
形态 元数据与血缘目录平台 开源 / 商业 / 托管形态
许可证 Apache-2.0 以官方仓库为准
数据日期 2026-10-27 条目信息核对到这一天

DataHub 编辑总结

EDITOR REVIEW编辑小结

整理日期:2026-10-27 · 数据处理与管道 · 同分类 22 个

分类数据处理与管道数据与存储下的分类
形态元数据与血缘目录平台交付形态,决定怎么接入
主要语言Java / Python以官方仓库为准
许可证Apache-2.0商用前核对 LICENSE 原文
同分类条目22可与下方对比表横向比较

上面几项是本条目的关键信息摘要,正文整理见下方「详细说明」与「关键信息」。

详细说明

数据与存储

它解决什么问题

可搜索的元数据与血缘目录平台

核心优势

把表、看板、作业与血缘收进一个可搜索目录,谁产出、谁在用一查就知道;支持推送与拉取两种接入,权限与变更历史都有记录,便于评估口径变更的影响面。

注意事项

组件多,前端、元数据服务与消息队列都要自建,运维成本不低;元数据靠接入方推送,覆盖面取决于采集是否做全,前期建模要花功夫。

适合场景

表与看板数量多、需要统一定位数据资产的团队。

不适合场景

数据资产很少、用表格自查就够用的团队。

关键信息

数据与存储
维护方
DataHub 项目(Acryl Data 发起)
分类
数据处理与管道
形态
元数据与血缘目录平台
主要语言
Java / Python
许可证
Apache-2.0
代码仓库
https://github.com/datahub-project/datahub
官方文档
https://datahubproject.io/docs/

特性标签

3 项
元数据血缘目录

标签取自各项目公开信息里的分类字段,未做二次归类。

同分类数据与存储对比

22 个同类
同分类数据与存储对比
方案形态定位许可证
Apache Kafka 分布式事件流平台 高吞吐、可回放的事件流与消息中枢 Apache-2.0
Apache Flink 流批一体计算引擎 有状态、精确一次的流式计算引擎 Apache-2.0
Apache Airflow 工作流编排调度 用 Python 代码定义与调度批处理任务 Apache-2.0
dbt SQL 转换与建模工具 用 SQL 与版本管理做数仓转换层 Apache-2.0
Apache Iceberg 开放表格式(湖仓) 给数据湖加表语义与快照的开放格式 Apache-2.0
DuckDB 嵌入式分析型数据库 单文件、进程内跑的分析型 SQL 引擎 MIT
Delta Lake 湖仓表格式 带事务日志的湖仓表格式 Apache-2.0
Debezium CDC 变更捕获 基于日志的数据库变更捕获工具 Apache-2.0
Trino 分布式 SQL 查询引擎 跨数据源的分布式 SQL 查询引擎 Apache-2.0
Metabase BI 与自助分析工具 给业务人员用的自助式 BI 工具 AGPL-3.0(开源版)
Great Expectations 数据质量校验框架 给数据管道加断言的可测性框架 Apache-2.0
Soda Core 数据质量检查工具 用声明式检查语句校验数据质量 ELv2
Dagster 数据编排平台 以资产为中心的数据编排平台 Apache-2.0
Prefect 工作流编排框架 用纯 Python 写的轻量工作流编排 Apache-2.0
Apache Polaris 湖仓元数据目录 面向湖仓的开放表格式目录服务 Apache-2.0
Airbyte 数据同步平台 开箱即用的数据同步与连接器平台 ELv2
OpenLineage 数据血缘开放标准 给数据管道发血缘事件的开放标准 Apache-2.0
Apache Doris 实时分析型数据库 兼顾点查与批量分析的 MPP 数据库 Apache-2.0
StarRocks 分析型数据库 主打极速查询的湖仓分析数据库 Apache-2.0
Apache Pinot 实时 OLAP 查询服务 面向用户侧实时分析的 OLAP 存储 Apache-2.0
Apache Hudi 湖仓增量表格式 支持增量更新与删除的湖仓表格式 Apache-2.0
Apache Hive 数据仓库与元数据服务 把 SQL 跑在分布式存储上的数仓组件 Apache-2.0

同一分类内的方案才适合横向比较;定位列已按详情页原文截断

数据与存储 常见问题

2 条
关系库、缓存、搜索、向量库,要各挑一个吗?

按数据形态分:事务数据用关系库,热点与计数用缓存,全文与日志检索用搜索型或分析型库,语义检索用向量库。规模不大时,PostgreSQL 的扩展(pgvector、全文检索、JSONB)往往能顶替后三类,可以少维护一套系统。

向量库要单独部署,还是用 PostgreSQL 的向量扩展?

数据量在千万级向量以内、且已经在用 PostgreSQL 时,pgvector 往往够用,少一套运维;超过这个量级或要做大规模混合检索,再考虑专用向量库。

数据说明

DATA NOTES数据说明
所属栏目数据与存储分类:数据处理与管道
数据来源项目官方文档与代码仓库定位、优势与许可条件取自官方资料,中文为归纳版
数据日期2026-10-27条目信息核对到这一天;官方更新后以官方为准
口径边界整理不改写能力、价格与许可证以官方为准;本站不打分、不排推荐名次

页面文字只做中文整理,数值不改写;仓库地址、许可证与版本请以官方仓库为准,本站与所列项目无隶属关系。

继续浏览数据与存储

返回栏目列表
上一个条目已经是第一个了 下一个条目已经是最后一个了

条目信息取自各项目官方仓库与文档;定位、优势与注意事项为中文归纳,数值不改写,仓库地址、许可证与版本以官方为准。