质量规则模板类型
如果差异较大，可能存在较大数据质量的问题需要进行确认和修复。实时多链路对比 高可用场景下，需要构建多条链路，以便数据出现异常时，能够及时切换。对于多链路之间的数据计算进度监控则可以发现一些数据滞留、统计偏差问题，提升实时...
质量规则模板类型
如果差异较大，可能存在较大数据质量的问题需要进行确认和修复。实时多链路对比 高可用场景下，需要构建多条链路，以便数据出现异常时，能够及时切换。对于多链路之间的数据计算进度监控则可以发现一些数据滞留、统计偏差问题，提升实时...
2019年
本文为您介绍了MaxCompute 2019年内容更新的...数据质量评估标准、数据质量管理流程、数据加工过程卡点校验、数据风险点监控、数据质量追溯 2019-05-06 新增安全管理案例执行级别权限控制。新案例 介绍如何实现行级别权限控制。行级别权限控制
数据质量教程概述
数据质量的评估 数据质量可以从完整性、准确性、一致性和及时性共四个角度进行评估，详情请参见 数据质量评估标准。在本教程中，您将学会通过数据质量风险监控，保证数据的完整性、准确性、一致性；通过数据及时性监控，保证数据的及时性。...
数据质量教程概述
数据质量的评估 数据质量可以从完整性、准确性、一致性和及时性共四个角度进行评估，详情请参见 数据质量评估标准。在本教程中，您将学会通过数据质量风险监控，保证数据的完整性、准确性、一致性；通过数据及时性监控，保证数据的及时性。...
查看质量评估报告
背景信息 质量评估报告以周期性数据质量检测结果为基础，从模型总数、已配置质量规则模型、模型物理化表总数、质量监测模型数、质量监测物理表数维度给出系统综合质量得分；从数仓层级维度和质量不同时间段进行评分对比。重要 当天执行成功...
查看质量评估报告
背景信息 质量评估报告以周期性数据质量检测结果为基础，从模型总数、已配置质量规则模型、模型物理化表总数、质量监测模型数、质量监测物理表数维度给出系统综合质量得分；从数仓层级维度和质量不同时间段进行评分对比。重要 当天执行成功...
功能简介
质量评估即根据用户设置的数据质量规则执行面向不同计算资源的质量检查任务，包括运行质量检查计划和场景画布两种途径；通过数据质量监控报告，查看系统整体数据质量概览及多维度细分数据的质量情况。质量评估通过完整性、准确性、一致性、...
质量评估
质量评估通过用户自定义质量检查计划，根据用户设置的数据质量规则执行面向不同计算资源的质量检查任务，通过数据质量监控报告展现系统整体数据质量概览及多维度细分数据的质量情况。质量评估通过完整性、准确性、一致性、唯一性、时效性、...
功能简介
质量评估即根据用户设置的数据质量规则执行面向不同计算资源的质量检查任务，包括运行质量检查计划和场景画布两种途径；通过数据质量监控报告，查看系统整体数据质量概览及多维度细分数据的质量情况。质量评估通过完整性、准确性、一致性、...
06物理表质量监控明细
物理表监控明细为您展示物理表的质量...查看详情：单击 查看详情，跳转到该物理表的数据质量监控报告页面，可查看质量报告详情。查看日志：单击 查看日志，可查看运行日志。预期结果 可在 物理表监控明细 页面中查看目标表的监控明细信息。
数据质量衡量
在了解保障基于MaxCompute的数据仓库数据质量的方案后，您还需要进一步学习如何制定一套标准度量方案，以及判断质量监控方案是否合适业务需求以及如何改进。例如，针对每一个数据质量事件，必须分析原因和处理过程，制定后续同类事件预防...
数据质量：全流程的质量监控
DataWorks的全流程数据质量监控功能为您提供35种预设表级别、字段级别和自定义的监控模板。数据质量帮助您第一时间感知到源端数据的变更与ETL（Extract Transformation Load）中产生的脏数据，自动拦截问题任务，有效阻断脏数据向下游蔓延...
数据质量管理流程
数据质量的管理流程包括业务数据资产定级、加工卡点、风险点监控和及时性监控，您可以构建属于自己的数据质量保障体系。数据质量管理的流程图如下。数据质量管理的流程说明如下：分析业务场景，对数据流转链路上的整个依赖关系，进行资产...
数据质量管理流程
数据质量的管理流程包括业务数据资产定级、加工卡点、风险点监控和及时性监控，您可以构建属于自己的数据质量保障体系。数据质量管理的流程图如下。数据质量管理的流程说明如下：分析业务场景，对数据流转链路上的整个依赖关系，进行资产...
数据质量管理流程
本文为您介绍数据质量管理概念、数据管理流程。数据质量管理是通过划分数据资产等级和分析元数据的应用链路，对不同资产等级的数据采取相对应的质量管理方式。数据质量管理流程图如下。数据管理流程说明如下：分析业务场景，根据应用的影响...
数据质量入门
数据质量帮助您及时感知源端数据的变更与ETL（Extract Transformation Load）中产生的脏数据，自动拦截问题任务，阻断脏数据向下游蔓延。避免任务产出问题数据，影响正常使用和业务决策。本文示例配置表数据质量监控规则，保障产出的表数据...
数据质量规则配置流程
本文为您介绍数据质量监控规则的配置流程及生效逻辑，以及规则列表的相关操作。规则配置流程 您可基于表配置单个表的数据质量监控规则，也可基于模板，批量配置多个表的数据质量监控规则，具体如下。基于表配置数据质量监控规则（单个配置...
配置数据质量规则去噪
当任务触发质量规则校验时，您可以使用去噪管理功能，对当前工作空间内，数据质量规则校验异常的数据不触发报警，且不阻塞任务运行（任务不会因为数据质量校验不通过而失败退出）。前提条件 已创建数据质量校验规则，详情请参见 配置规则：...
管理数据质量待发布对象
导入的发布包文件中存在数据质量的变更对象时，将在待发布数据质量页面为您展示，您可在待发布数据质量页面对数据质量对象进行管理和发布。待发布 数据质量 对象入口 请参见 发布包总览入口，进入发布包 总览 管理页面。单击 数据质量 页签...
管理数据质量待发布对象
导入的发布包文件中存在数据质量的变更对象时，将在待发布数据质量页面为您展示，您可在待发布数据质量页面对数据质量对象进行管理和发布。待发布 数据质量 对象入口 请参见 发布包总览入口，进入发布包 总览 管理页面。单击 数据质量 页签...
配置数据质量监控
本文为您介绍如何配置表dwd_log_info_di_emr的数据质量监控规则。前提条件 在进行本实验前，请确保已完成 采集数据 和 加工数据。操作步骤 进入数据质量页面。登录 DataWorks控制台，单击左侧导航栏的 数据建模与开发>数据质量，在下拉框中...
配置数据质量监控
本文为您介绍如何通过数据质量实现表数据监控。前提条件 在进行本实验前，请确保已完成 采集数据 和 加工数据。已通过数据集成将存储于RDS MySQL的用户基本信息（ods_user_info_d）同步至MaxCompute的ods_user_info_d表。已通过数据集成将...
管理问题数据
数据质量支持您保留数据质量监控过程中从数据表中发现的非预期数据，帮助您快速排查、定位问题，提升数据质量。本文为您介绍如何管理数据质量监控过程中从数据表中发现的非预期数据。背景信息 问题数据表 数据质量支持在部分规则校验不通过...
配置数据质量监控
本文为您介绍如何通过数据质量实现表数据监控。前提条件 在进行本实验前，请确保已完成 采集数据 和 加工数据。已通过数据集成将存储于RDS MySQL的用户基本信息（ods_user_info_d）同步至MaxCompute的ods_user_info_d表。已通过数据集成将...
数据质量风险监控
数据质量风险监控主要针对数据的准确性、一致性和完整性。本教程使用DataWorks数据质量（DQC）功能，完成数仓各层次的数据质量监控。前提条件 首先您需要完成教程 搭建互联网在线运营分析平台，并保证您的DataWorks工作空间创建区域为华东2...
进入数据质量概览（旧版）
数据质量概览页面为您展示订阅数据的报警以及任务的阻塞情况。查看数据质量概览 登录 DataWorks控制台，单击左侧导航栏的 数据建模与开发>数据开发，在下拉框中选择对应工作空间后单击 进入数据开发。单击左上角的 图标，选择 全部产品>...
数据质量风险监控
数据质量风险监控主要针对数据的准确性、一致性和完整性。本教程使用DataWorks数据质量（DQC）功能，完成数仓各层次的数据质量监控。前提条件 首先您需要完成教程 搭建互联网在线运营分析平台，并保证您的DataWorks工作空间创建区域为华东2...
应用场景
构建数据中台，行业领域模型快速沉淀 场景：快速构建数据仓库，有效治理数据质量，实现政企客户各部门数据的业务协同和共享。痛点：以政务服务为例，政务服务部门众多，业务系统复杂、流程长，数据来源多且更新频率高；数据口径标准、数据...
消息模板
Dataphin支持配置租户级别的告警消息模板，您可根据不同的模块查看并编辑告警消息模板的内容，包括离线计算、实时计算、基线监控、数据质量、数据服务。本文为您介绍如何查看及修改消息模板。使用限制 支持超级管理员和系统管理员编辑消息...
查看我的订阅
操作步骤 登录 DataWorks控制台，单击左侧导航栏的 数据建模与开发>数据质量，在下拉框中选择对应工作空间后单击 进入数据质量。在左侧导航栏，单击 我的订阅。数据质量支持EMR、Hologres、AnalyticDB for PostgreSQL、MaxCompute等类型的...
常见问题
1.售前咨询渠道 尊敬的“准”大数据专家服务用户您好：如果您准备购买阿里云大数据专家服务，但是遇到如服务范围、规格、服务选择等售前方面的问题，您可以通过钉钉与我们联系，您将“当面”获得阿里云大数据专家咨询专家的建议。...
功能特性
支持数据质量检验和控制 可以设置数据质量规则和异常报警策略，及时发现和处理数据质量问题。支持实时监控任务运行状态和查看日志 用户可以实时了解任务的执行情况，并设置异常告警，保证任务的稳定运行。支持多种数据库产品组合 支持多种...
创建并管理自定义规则模板
DataWorks数据质量支持通过统一管理自定义规则，形成自建的规则模板库，帮助您提升规则配置的效率。本文将为您介绍如何通过规则模板库页面和监控规则页面新建规则模板，以及如何操作规则模板。前提条件 您需要购买DataWorks企业版及以上...
消息模板
Dataphin支持配置租户级别的告警消息模板，您可根据不同的模块查看并编辑告警消息模板的内容，包括离线计算、实时计算、实时集成、基线监控、数据质量、数据服务。本文为您介绍如何查看及修改消息模板。背景信息 Dataphin中阿里云短信服务...
新增逻辑表质量规则
弱规则：常规规则，如实际结果不满足规则，则该单项数据质量为一般。（可选）配置 高级选项。说明 高级选项 仅用OpenAPI向上层应用提供更精细化的结果数据，不影响数据开发质量节点及质量评估计划执行。目前仅MaxCompute、Hive、AnalyticDB...
新增逻辑表质量规则
弱规则：常规规则，如实际结果不满足规则，则该单项数据质量为一般。（可选）配置 高级选项。说明 高级选项 仅用OpenAPI向上层应用提供更精细化的结果数据，不影响数据开发质量节点及质量评估计划执行。目前仅MaxCompute、Hive、AnalyticDB...
应用场景
实时数据通道 1.1 接入多种异构数据并投递到下游多种大数据系统 通过数据总线，您可以实时接入APP、WEB、IoT和数据库等产生的异构数据，统一管理，并投递到下游的分析、归档等系统，构建清晰的数据流，让您更好的释放数据的价值。...
什么是EMR on ACK
阿里云E-MapReduce（简称EMR）on ACK提供了全新构建大数据平台的方式。您可以将开源大数据服务部署在阿里云容器服务Kubernetes版（ACK）之上，利用ACK在服务部署和容器应用管理的优势，减少对底层集群资源的运维投入，以便于您可以更加专注...
发布阶段
数据质量监控与冒烟测试：发布完成后，开发人员根据数据与业务特点配置数据质量监控规则，并进行冒烟测试。冒烟测试必须完成至少一个调度周期的运行，以验证新发布或者变更的任务节点可行性。如果冒烟测试不通过，则发布执行人员需根据情况...
- 产品推荐
- 这些文档可能帮助您