数据质量:库表、检测与对账
用库表管理浏览数据,用数据检测规则盯住质量,用数据对账核对来源与目标是否一致。
概述
「数据治理」分组帮你看清数据、盯住质量:库表管理、数据检测、数据对账、全局清洗规则和血缘分析。
库表管理
权限与入口:
data:view查看;data:edit改表结构 / 数据。菜单:数据治理 → 库表管理
配管道或查数据前,经常需要看看表里有什么。「库表管理」把所有数据源里的表汇总在一起,显示描述、所属数据源与库、行数、大小和更新时间,支持按数据连接、关键字筛选和多种排序。

图:库表管理
图中编号说明:
- 按数据连接筛选,只看某一个库。
- 数据与结构:打开表详情,里面有「表结构」「表数据」「写 SQL」三个页签,可浏览字段、翻看数据、执行 SQL 查询。
- 编辑:修改表的描述与字段;视图和系统表只读,「编辑」会置灰。
行尾的「…」里还有「复制表」「清空数据」「删除表」。这几个是有风险的操作,需要 data:edit 并会二次确认;清空和删除不可恢复,请先确认连接指向的是正确的库。
数据检测
权限与入口:
data:view查看;data:edit新建 / 修改 / 立即检测。菜单:数据治理 → 数据检测
数据检测对关键表定期(或手动)跑一组规则,发现空值、重复、波动、不一致等问题,并通知负责人。

图:数据检测列表
图中编号说明:
- 新建检测任务:进入四步向导。
- 最近结论:检测通过 / 检测不通过 / 运行中 / 未判定 / 从未运行;「不通过率」列用进度条直观展示。页面顶部还会汇总近 7 天的平均质量分。
- 运行结果:查看最近各次运行的逐条规则结论。
- 立即检测:不等调度,马上跑一次(运行中时置灰)。

图:新建检测任务向导
图中编号说明:
四个步骤:基本信息 → 检测对象 → 检测规则 → 调度与报警。
任务名称:不能重复,创建后仍可修改。
检测对象:选数据源与要检测的表(可选多张)。
检测规则:为每张表添加规则,按需要选字段。每条规则有强 / 弱两种强度(模板有各自的默认值,见下表):强规则不通过则整次检测判定为不通过并通知任务负责人;弱规则不通过只记录、不判失败。
调度与报警:选择执行频率(每小时、每天 02:00 / 08:00、每周一 02:00、每月 1 日 02:00,或仅手动执行)和通知渠道(通知渠道)。
| 内置规则模板 | 检查什么 | 默认强度 |
|---|---|---|
| 主键唯一 | 指定字段没有重复值(重复主键会让下游 join 出笛卡尔积)。 | 强 |
| 关键字段非空 | 指定字段没有空值。 | 强 |
| 行数非空 | 表里的行数不低于下限(可配置);整表为空通常意味着上游同步断了。 | 强 |
| 值域校验 | 字段值必须落在你给出的白名单内(每行一个,最多 100 项)。 | 强 |
| 空值率阈值 | 字段空值比例低于阈值(阈值可编辑,留空用默认)。 | 弱 |
| 日环比波动 | 今日行数相对昨日的波动低于阈值(阈值可编辑)。 | 弱 |
| 数据新鲜度 | 时间字段的最新值距今不超过设定分钟数(字段必须是日期 / 时间类型)。 | 强 |
| 两表金额对账 | 字段的合计与对照表的同名字段一致(需选择对照表)。 | 强 |
| 外键引用完整性 | 字段值都能在对照表的 id 中找到(需选择对照表)。 | 强 |
流程任务里可以用「调用检测」节点在数据加载后立即做一次检测(在画布上编排);检测的运行也会出现在「运行记录」里。
数据对账
权限与入口:
data:view+task:view。菜单:数据治理 → 数据对账
数据对账按日 / 周 / 月比较来源与目标的行数和合计,发现不一致的周期后可以重新采集。一条对账规则可以被多个流程任务共用,不一致时也可以一次重新采集多个任务。
- 点「新建对账规则」,选择来源与目标,并绑定要触发和重新采集的任务。
- 列表上方的筛选条按状态分组:全部 / 需处理 / 从未对账 / 一致。「需处理」就是有不一致周期的规则。
- 对不一致的周期点重新采集,等任务跑完后再核对一次。
也可以从流程任务行的「…→ 数据对账」直接查看某个任务的对账规则。
相关文档
- 清洗规则与血缘分析
- 流程任务:「调用检测」节点、对账规则的任务绑定。
- 凭据、环境变量、通知渠道与事件入口:检测不通过时通知哪些渠道。