DataHub

关注
义项:元数据管理平台
DataHub

DataHub是 LinkedIn 开发并开源的一款元数据管理平台,用于集中组织、搜索、发现和治理企业数据生态中的各类数据资产[1]。它采用事件驱动的架构,支持元数据的实时摄取与更新,并通过数据血缘追踪、数据发现、数据治理等能力,帮助数据工程师、分析师和治理团队理解数据的来源与流向[2]。该项目以 Apache 2.0 协议发布,由 Acryl Data 公司负责商业化运营,并提供托管的云服务版本[3]。

百科 图文
目录
  1. 定义
  2. 原理
  3. 发展历程
  4. 应用
  5. 局限
  6. 参见

定义

DataHub是一个开源的元数据管理平台,用于集中组织、搜索、发现和管理企业数据资产[1]。它将企业数据生态中的数据集、仪表板、数据管道、机器学习模型、指标、API 等对象,纳入一张相互连接的元数据图,并为每类对象记录结构、所有者、文档、质量与依赖关系[2]。在功能定位上,它同时承担数据目录、数据血缘追踪、数据治理与数据可观测性等职责[4]。

该平台的元数据模型由实体、方面和关系三类基本成分构成,每个实体由统一资源名称(URN)唯一标识[5]。它通过 GraphQL 与 REST 两类接口对外提供元数据的读写和查询能力,并提供命令行工具与 Python 软件开发工具包。

原理

DataHub 的架构按来源层、服务层与消费层划分。来源层负责从各类数据系统采集元数据,采集方式包括推送与拉取两类,既可以直接调用接口写入,也可以接收由数据源发出的标准化元数据变更事件[6]。元数据经采集后进入 Kafka 消息总线,再被写入服务层中不同用途的存储系统[4]。

服务层为不同类型的查询配备专门的存储组件:文档型查询与全文检索由 Elasticsearch 承担,关系与图结构查询由图数据库承担,涉及联表的复杂查询则由 MySQL 承担[6]。消费层则通过前端界面、GraphQL 接口、REST 接口和事件流向外提供元数据。其数据血缘可细化到字段级别,用 DAG 形式呈现上游与下游依赖,因此可以在修改表结构前评估影响范围[2]。


flowchart LR

A[数据源: 仓库/BI/ETL] --> B[元数据采集]

B --> C[Kafka 事件总线]

C --> D[元数据服务 GMS]

D --> E[Elasticsearch 检索]

D --> F[图数据库 关系]

D --> G[MySQL 事务]

E --> H[前端与 API]

F --> H

G --> H

发展历程

DataHub 的前身是 LinkedIn 于 2016 年发布的元数据采集工具 WhereHows,该工具是一个中央元数据存储库与数据集门户,用于存放位置、模式、分区、所有权等技术元数据以及血缘、作业执行、生命周期等过程元数据[6]。由于 WhereHows 在扩展性上存在局限,LinkedIn 于 2018 年以 DataHub 之名重建该项目[7]。

2019 年,LinkedIn 工程团队对外介绍了 DataHub,并于 2020 年将其开源。2021 年 6 月,由 DataHub 项目创建者 Shirshanka Das 与 Airbnb 前数据平台负责人 Swaroop Jagadish 共同创立的 Acryl Data 公司结束隐身状态,获得 900 万美元种子轮融资,用于对 DataHub 进行商业化[8]。该公司在 2023 年 6 月获得 2100 万美元 A 轮融资,并在 2025 年 5 月获得由 Bessemer Venture Partners 领投的 3500 万美元 B 轮融资,累计融资额达到 6500 万美元,同年公司品牌更名为 DataHub[9][3]。

应用

在数据发现场景中,DataHub 提供对数据资产名称、描述、所有权信息和细粒度属性的全文检索,用户也可以通过标签、术语、域等条件筛选结果,还可用通配与逻辑表达式构造较复杂的检索条件。在数据血缘场景中,它可以自动或经由 dbt、Superset、Airflow 等工具的集成获取血缘信息,并在变更代码前用于影响分析。

在数据治理场景中,该平台通过基于角色的访问控制,配合标签、术语表和域等业务元数据,对数据资产实施分级管理,并可将数据集归属到明确的所有者。其连接器覆盖主流数据仓库、数据湖、转换工具与商业智能工具,生产环境中的部署方式既可以是自托管的 Docker 或 Kubernetes,也可以是 Acryl Data 提供的托管云服务[2][10]。

在较早的公开资料中,采用该平台的组织包括 Netflix、Pinterest、Visa、Chime 等,覆盖数据、机器学习与软件资产的统一发现等用途[3]。此外,AWS 提供了将其托管于云端并从 Amazon Glue、Amazon Redshift 采集元数据的方案,用于把 ETL 作业的运行时血缘写入平台[1]。

局限

DataHub 的自托管部署对基础设施要求较高,需要运行 Java 服务并维护搜索引擎、消息队列与数据库等多个组件,因此需要专门的工程人员持续运维[4][10]。在需要多地部署或各团队自建服务的情况下,元数据一致性与运维成本会随之上升。

其元数据模型和界面相对复杂,学习曲线较陡,与非技术业务人员的日常使用习惯存在距离[4][10]。同时,平台只负责采集和记录数据结构、主键与关系等元数据,本身并不强制约束数据完整性[11]。此外,元数据图中所依赖的推送式采集方式,若有数据源未按约定上报变更,相关资产的元数据可能滞后或缺失[2]。

参见

  • Apache Atlas —— 同为开源元数据管理与数据治理平台,常与 DataHub 并列比较。

  • Amundsen —— 由 Lyft 开源的元数据发现工具,与 DataHub 属于同类数据目录产品。

  • WhereHows —— DataHub 的前身,LinkedIn 早期用于采集元数据的中央存储库与数据门户。

  • 元数据 —— DataHub 所管理的对象,即描述其他数据的数据。

  • 数据血缘 —— DataHub 的核心能力之一,用于刻画数据在上下游之间的流转与依赖。

  • Kafka —— DataHub 事件驱动架构中承担元数据变更事件传输的消息系统。

参考资料

  1. amazon.com 上的网页 [引用日期2026-10-14]
  2. datahub [引用日期2026-10-14]
  3. securityboulevard.com 上的网页 [引用日期2026-10-14]
  4. 元数据管理平台搭建:从 Metastore 到统一元数据中心 [引用日期2026-10-14]
  5. Unity Catalog vs DataHub | Databricks [引用日期2026-10-14]
  6. DataHub——实时数据治理平台 [引用日期2026-10-14]
  7. heise.de 上的网页 [引用日期2026-10-14]
  8. Acryl Data [引用日期2026-10-14]
  9. businesswire.com 上的网页 [引用日期2026-10-14]
  10. DataHub [引用日期2026-10-14]
  11. DataHub [引用日期2026-10-14]
词条评价
词条统计

浏览次数:1 次

阅读量:0 次 · 阅读完成量:0 次

最近更新:2026-10-13T21:42:30Z

历史版本

本条目引用的词条
Kafka Apache Atlas Amundsen WhereHows 元数据 数据血缘