Data Observability

数据可观测

找出失败和耗时较长的数据作业,沿运行记录与数据血缘排查问题。将作业、数据资产和上下游依赖关联起来,从一次异常执行追溯来源,核查下游影响。

Job · Run · Dataset · Lineage

从作业异常,追到数据的来龙去脉

数据工程与平台团队可以在同一处查看作业状态、执行耗时和输入输出,再沿数据血缘追查上游、核查下游。通过 OpenLineage 连接 Airflow、Spark、dbt 等数据处理系统,保留每次运行的上下文。

集中监控作业,找出失败与耗时较长的运行

在概览中集中查看作业数量、已结束与未成功运行、成功率及变化趋势。结合执行次数、耗时与作业排行,确定接下来要检查的任务。

按数据平台和集成分布了解接入范围,让数据工程与平台团队从同一组运行记录开始排查。
查看文档

从异常作业,深入到一次具体执行

以 Run 为单位检查运行状态、开始与结束时间、耗时、错误信息及执行环境。查看这次运行的输入和输出,区分作业定义与实际执行结果。

对照不同运行之间的引擎、版本和参数变化,回到关联 Run 核验,让排查同时看到运行证据与配置上下文。
查看文档

沿数据血缘追根溯源,核查下游影响

选择资产或作业作为锚点,按上游、下游和关系层级展开依赖。通过平台、数据库与 Schema 分组查看数据关系,在地图和列表之间切换。

发现异常时,沿已采集的血缘找到来源及下游依赖,再结合关联运行记录确认实际影响。
查看文档

把数据资产、字段结构与相关作业一起查清

在数据目录中查找已采集资产,查看所属平台、资产类型、最近观察时间和字段结构。从资产详情继续查看关联作业、运行记录与直接依赖。

通过 OpenLineage 接入 Airflow、Spark、dbt 或 Python Client 上报的元信息,将 Dataset、Job 与 Run 连接起来。可用字段和关系取决于生产者实际提供的信息。
查看文档

常见问题

数据可观测与数据库监控有什么区别?

数据可观测关注数据处理作业的运行、输入输出、资产与上下游血缘;数据库监控关注数据库实例、SQL 查询、会话和资源性能。两者分别回答数据处理过程与数据库运行性能的问题。

如何接入现有的数据处理系统?

通过 OpenLineage 上报 RunEvent、JobEvent 和 DatasetEvent。官方文档提供 Airflow、Spark、dbt 和 Python Client 的接入说明;具体采集到的属性和血缘取决于生产者、集成方式及上报的 Facet。

血缘中的下游依赖是否意味着已受到影响?

依赖关系用于确定需要核查的范围,并不代表下游数据已经异常。需要继续结合相关作业的执行状态、输入输出与运行记录确认实际影响。

数据可观测如何计费?

商业版按每日新增的有效作业运行次数计费,同一工作空间内按 runId 去重;企业版纳入现有总写入流量和引擎数据存储量计费。具体存储策略与价格请查看计费页面。

从一次作业运行,看清整条数据链路