它解决什么问题
支持增量更新与删除的湖仓表格式
拖动滑块完成拼图,通过后发送验证码
独立第三方 AI 评测平台 · 只用实测数据
Apache 软件基金会 · 湖仓增量表格式
整理日期:2026-10-27 · 数据处理与管道 · 同分类 22 个
上面几项是本条目的关键信息摘要,正文整理见下方「详细说明」与「关键信息」。
支持增量更新与删除的湖仓表格式
在对象存储上补上更新与删除能力,写入可选实时与批量两种表类型;自带时间旅行与增量拉取,下游只读变更部分,不必每次全量重算。
写入端要维护清理与压缩策略,配错会让读性能持续下降;表类型一旦选定改动成本高,与计算引擎的版本兼容要专门验证。
数据湖上需要频繁更新删除与增量消费的场景。
只写一次、长期不更新的归档型数据集。
标签取自各项目公开信息里的分类字段,未做二次归类。
| 方案 | 形态 | 定位 | 许可证 |
|---|---|---|---|
| Apache Kafka | 分布式事件流平台 | 高吞吐、可回放的事件流与消息中枢 | Apache-2.0 |
| Apache Flink | 流批一体计算引擎 | 有状态、精确一次的流式计算引擎 | Apache-2.0 |
| Apache Airflow | 工作流编排调度 | 用 Python 代码定义与调度批处理任务 | Apache-2.0 |
| dbt | SQL 转换与建模工具 | 用 SQL 与版本管理做数仓转换层 | Apache-2.0 |
| Apache Iceberg | 开放表格式(湖仓) | 给数据湖加表语义与快照的开放格式 | Apache-2.0 |
| DuckDB | 嵌入式分析型数据库 | 单文件、进程内跑的分析型 SQL 引擎 | MIT |
| Delta Lake | 湖仓表格式 | 带事务日志的湖仓表格式 | Apache-2.0 |
| Debezium | CDC 变更捕获 | 基于日志的数据库变更捕获工具 | Apache-2.0 |
| Trino | 分布式 SQL 查询引擎 | 跨数据源的分布式 SQL 查询引擎 | Apache-2.0 |
| Metabase | BI 与自助分析工具 | 给业务人员用的自助式 BI 工具 | AGPL-3.0(开源版) |
| Great Expectations | 数据质量校验框架 | 给数据管道加断言的可测性框架 | Apache-2.0 |
| Soda Core | 数据质量检查工具 | 用声明式检查语句校验数据质量 | ELv2 |
| Dagster | 数据编排平台 | 以资产为中心的数据编排平台 | Apache-2.0 |
| Prefect | 工作流编排框架 | 用纯 Python 写的轻量工作流编排 | Apache-2.0 |
| Apache Polaris | 湖仓元数据目录 | 面向湖仓的开放表格式目录服务 | Apache-2.0 |
| Airbyte | 数据同步平台 | 开箱即用的数据同步与连接器平台 | ELv2 |
| OpenLineage | 数据血缘开放标准 | 给数据管道发血缘事件的开放标准 | Apache-2.0 |
| DataHub | 元数据与血缘目录平台 | 可搜索的元数据与血缘目录平台 | Apache-2.0 |
| Apache Doris | 实时分析型数据库 | 兼顾点查与批量分析的 MPP 数据库 | Apache-2.0 |
| StarRocks | 分析型数据库 | 主打极速查询的湖仓分析数据库 | Apache-2.0 |
| Apache Pinot | 实时 OLAP 查询服务 | 面向用户侧实时分析的 OLAP 存储 | Apache-2.0 |
| Apache Hive | 数据仓库与元数据服务 | 把 SQL 跑在分布式存储上的数仓组件 | Apache-2.0 |
同一分类内的方案才适合横向比较;定位列已按详情页原文截断
按数据形态分:事务数据用关系库,热点与计数用缓存,全文与日志检索用搜索型或分析型库,语义检索用向量库。规模不大时,PostgreSQL 的扩展(pgvector、全文检索、JSONB)往往能顶替后三类,可以少维护一套系统。
数据量在千万级向量以内、且已经在用 PostgreSQL 时,pgvector 往往够用,少一套运维;超过这个量级或要做大规模混合检索,再考虑专用向量库。
页面文字只做中文整理,数值不改写;仓库地址、许可证与版本请以官方仓库为准,本站与所列项目无隶属关系。
条目信息取自各项目官方仓库与文档;定位、优势与注意事项为中文归纳,数值不改写,仓库地址、许可证与版本以官方为准。